La Ley de IA de la UE. ¿Cómo regula Europa el uso de la inteligencia artificial? IA en los negocios #68

¿Qué es la Ley de IA y por qué es importante para las pymes (pequeñas y medianas empresas)?

La Ley de IA es la primera regulación de este tipo en el mundo. El primero en abordar de manera integral la inteligencia artificial desde un enfoque de la IA centrado en el ser humano. Su objetivo es garantizar que los sistemas de IA utilizados en Europa sean seguros y estimulen la innovación, respetando al mismo tiempo los derechos fundamentales, con especial atención a:

• atención médica : por ejemplo, respetar la privacidad de los datos de los pacientes,
• Educación : adherirse a los valores promovidos por la Unión Europea y evitar la discriminación.
• protección de fronteras : garantizar la seguridad sin violar los derechos de los ciudadanos,
• Servicios públicos : siguiendo las mejores prácticas en protección de datos, derecho a la información y comunicación clara.

Para las pymes, la Ley de IA aportará principalmente una mayor seguridad jurídica, ya que define claramente el marco para la innovación: los principios de diseño, desarrollo y aplicación de sistemas de IA. Facilitará a las empresas la inversión en soluciones basadas en IA, reduciendo los riesgos legales. Además, las normas aplicables en toda la Unión evitarán la fragmentación del mercado.

Las regulaciones europeas sobre inteligencia artificial fueron adoptadas por el Parlamento Europeo y el Consejo de Europa el 9 de diciembre de 2023. Ahora, deben ser aceptadas formalmente por ambas instituciones para que entren en vigor.

Aspectos clave de la Ley de IA para las empresas

La Ley de IA de la UE introduce un conjunto de requisitos para los sistemas de IA, según el nivel de riesgo. Estos requisitos incluyen, entre otros:

• la obligación de transparencia y de notificar a los usuarios en el caso de interacciones con chatbots, sistemas biométricos o tecnologías de reconocimiento de emociones,
• prohibición de utilizar atributos sensibles para la categorización biométrica,
• evaluación de cumplimiento obligatoria antes de la entrada al mercado para sistemas de alto riesgo,
• registro obligatorio en la base de datos de la UE: una vez que la Ley de IA entre en vigor, los sistemas de IA utilizados en sectores clave como la educación, el empleo, la atención sanitaria y la aplicación de la ley deberán estar registrados.

Los fabricantes y empresas que utilicen sistemas de inteligencia artificial también estarán obligados a monitorear los riesgos después de introducirlos en el mercado. Esto afectará directamente a las empresas que diseñan e implementan sistemas de IA.

Niveles de riesgo de los sistemas de IA según la Ley de IA de la UE

La Ley de IA clasifica los sistemas de IA en cuatro categorías según su nivel de riesgo:

1. Riesgo inaceptable
2. Alto riesgo
3. Riesgo limitado
4. Riesgo mínimo

Echemos un vistazo más de cerca a cómo se definirá cada grupo, junto con ejemplos de sistemas y sus clasificaciones.

Riesgo inaceptable

La Unión Europea impone una prohibición total del uso de tecnologías enumeradas en la Ley de IA como sistemas de riesgo inaceptable. Se trata principalmente de sistemas diseñados para explotar la susceptibilidad de los individuos a las sugerencias para la manipulación o el engaño, sistemas que dan a la inteligencia artificial la capacidad de tomar decisiones en asuntos cruciales y aquellos que podrían conducir a un abuso de poder. Ejemplos de IA de riesgo inaceptable incluyen:

• armas autónomas que funcionan sin supervisión humana,
• sistemas de evaluación de credibilidad utilizados por los organismos encargados de hacer cumplir la ley,
• sistemas de identificación automática de personas en espacios públicos, como los basados ​​en imágenes de cámaras de vigilancia,
• sistemas de inteligencia artificial que puedan ser perjudiciales para personas con discapacidades físicas o mentales,
• IA empleada con fines policiales, con excepciones limitadas,
• sistemas de inteligencia artificial que utilizan técnicas manipulativas y “subliminales” dañinas.

Para las empresas, la última categoría es particularmente importante. Es por ello que la transparencia en el funcionamiento de los sistemas que proporcionan sugerencias a usuarios y clientes será crucial para el cumplimiento de la nueva legislación de la Unión Europea.

Alto riesgo

La inteligencia artificial clasificada como una solución de IA de alto riesgo deberá cumplir requisitos rigurosos antes de ingresar al mercado. Esto implica evaluaciones de cumplimiento y pruebas estrictas antes de aprobar su uso. Esta categoría de riesgo incluye ocho áreas, tales como:

• vehículos autónomos,
• sistemas de diagnóstico médico,
• algoritmos predictivos que apoyan el sistema de justicia,
• gestión de la migración y el asilo, control de fronteras, así como
• gestión del empleo y de la fuerza laboral.

Riesgo limitado

Afortunadamente, los legisladores han prestado mucha menos atención a los sistemas de riesgo limitado, que se utilizan más comúnmente en las empresas. Esta categoría incluye:

• Chatbots de IA : utilizados para atención al cliente o para responder preguntas frecuentes en forma de conversación fluida.
• sistemas de reconocimiento de emociones : utilizados, por ejemplo, para recopilar datos sobre las opiniones de los clientes sobre una empresa,
• sistemas de categorización biométrica , como evaluar el sexo o la edad de los clientes en una tienda física,
• generación de imágenes, audio o vídeo : a pesar de la amenaza que suponen los deepfakes, este ámbito estará sujeto a un conjunto limitado de obligaciones.

Riesgo bajo o mínimo

Las soluciones de IA de bajo riesgo no están sujetas a regulaciones legales. La Ley de IA sólo mencionará que los creadores y usuarios de dichas soluciones deben establecer voluntariamente políticas de uso. Esto se aplica a soluciones como:

• sistemas de recomendación de contenidos en servicios de streaming, o
• Chatbots en sitios web que responden a preguntas típicas de los clientes.

¿Qué requisitos impone la Ley de IA a las soluciones utilizadas por mi empresa?

Para comprobar si la inteligencia artificial utilizada por una empresa cumple con la Ley de IA, debes:

• clasificarlo en una de las cuatro categorías de riesgo descritas anteriormente,
• si se trata de una IA de alto riesgo, realizar una evaluación de cumplimiento,
• utilizar buenas prácticas en materia de IA de bajo riesgo.

Veamos ejemplos de soluciones de IA utilizadas con frecuencia por las empresas. ¿Qué requisitos tendrán que cumplir?

Un chatbot de servicio al cliente que proporcione información básica sobre productos o responda preguntas típicas de los clientes probablemente se clasificará como un sistema de riesgo mínimo. Será necesario:

• informar a los usuarios que están interactuando con la IA,
• proporcionar la opción de ser redirigido a un consultor humano,
• cumplir con los requisitos generales en materia de transparencia, no discriminación, etc.

Un sistema de recomendación de productos en el comercio electrónico probablemente se considerará un sistema de bajo riesgo. Será necesario informar a los clientes que están recibiendo recomendaciones personalizadas y brindarles la opción de desactivarlas.

Por otro lado, un sistema de diagnóstico médico automático se clasificará como sistema de alto riesgo. Deberá someterse a una evaluación rigurosa antes de ingresar al mercado y ser supervisado por un humano. Además, será necesario realizar un seguimiento de su funcionamiento y reportar incidencias.

El sistema de prevención del delito urbano también se considerará de alto riesgo. Tendrá que cumplir con la normativa sobre protección de la privacidad y otros derechos fundamentales. Su funcionamiento tendrá que estar bajo constante supervisión humana.

No está claro en qué categoría caerán los sistemas de toma de decisiones basados ​​en IA. Es probable que un sistema de contratación basado en IA que tome decisiones de contratación por sí solo se considere una solución de IA de riesgo inaceptable. Por otro lado, un sistema de apoyo a la contratación que ayude a las personas a realizar su trabajo se consideraría una solución de alto riesgo.

Por el bienestar de los usuarios, así como por posibles cambios en las clasificaciones, es muy importante abordar la construcción y el uso de sistemas de IA de manera ética y responsable desde el principio.

¿Cuáles serán las consecuencias de no cumplir con la Ley de IA?

No seguir la Ley de IA podría dar lugar a multas importantes para las empresas, que van desde 35 millones de euros o el 7% de la facturación mundial para las grandes empresas hasta 7,5 millones de euros o el 1,5% para las pymes. Los sistemas de IA ilegales podrían retirarse del mercado y su uso podría limitarse.

¿Cómo prepararse para la entrada en vigor de la Ley de IA?

Entonces, ¿cómo se prepara una empresa que utiliza inteligencia artificial para la entrada en vigor de la Ley de IA en 2025? A continuación se ofrecen algunos consejos sobre cómo las pymes y las startups pueden prepararse para este momento:

• mantenerse al tanto del avance de los trabajos y del cronograma de implementación de las regulaciones,
• evaluar los sistemas de IA ya en uso y adaptarlos a los nuevos requisitos,
• prestar especial atención a los aspectos éticos en el diseño de la IA.

Resumen

La introducción de la Ley de IA supone un gran cambio para el ecosistema de IA en Europa. Sin embargo, con reglas claras y consistentes, promete garantizar el desarrollo seguro y ético de esta tecnología, lo que debería beneficiar a las pymes y a las empresas emergentes en particular.

La Ley de IA, que entrará en vigor en 2025, traerá cambios significativos en la forma en que las pequeñas y medianas empresas (PYME) pueden aprovechar la inteligencia artificial. Para las PYMES, esto significa principalmente la necesidad de considerar y analizar cuidadosamente las soluciones de IA que utilizan, tanto en términos de cumplimiento de las regulaciones como de impacto potencial en los clientes y la comunidad.

Para los propietarios y gerentes de pequeñas empresas, es esencial comprender cómo se clasifican sus sistemas de inteligencia artificial en términos de riesgo y qué acciones se necesitan para alinearlos con las próximas regulaciones. Tomemos, por ejemplo, los sistemas de inteligencia artificial utilizados en la gestión de clientes o en marketing, que antes se utilizaban con bastante libertad. Ahora, necesitarán un análisis exhaustivo para comprobar el cumplimiento de la Ley de IA. Esto podría crear nuevas oportunidades para las empresas especializadas en asesoramiento jurídico tecnológico, proporcionando a las pymes apoyo para adaptarse a estos nuevos requisitos.

Si le gusta nuestro contenido, únase a nuestra comunidad de abejas ocupadas en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autor: Robert Whitney

Experto en JavaScript e instructor que capacita a los departamentos de TI. Su principal objetivo es mejorar la productividad del equipo enseñando a otros cómo cooperar eficazmente mientras codifican.

Ver todas las publicaciones

IA en los negocios:

1. Amenazas y oportunidades de la IA en los negocios (parte 1)
2. Amenazas y oportunidades de la IA en los negocios (parte 2)
3. Aplicaciones de IA en las empresas: descripción general
4. Chatbots de texto asistidos por IA
5. PNL empresarial hoy y mañana
6. El papel de la IA en la toma de decisiones empresariales
7. Programación de publicaciones en redes sociales. ¿Cómo puede ayudar la IA?
8. Publicaciones automatizadas en redes sociales
9. Nuevos servicios y productos que operan con IA
10. ¿Cuáles son las debilidades de mi idea de negocio? Una sesión de lluvia de ideas con ChatGPT
11. Usando ChatGPT en los negocios
12. Actores sintéticos. Los 3 mejores generadores de vídeo con IA
13. 3 útiles herramientas de diseño gráfico de IA. IA generativa en los negocios
14. 3 increíbles escritores de IA que debes probar hoy
15. Explorando el poder de la IA en la creación musical
16. Navegando por nuevas oportunidades comerciales con ChatGPT-4
17. Herramientas de IA para el directivo
18. 6 fantásticos complementos de ChatGTP que te harán la vida más fácil
19. 3 gráficos AI. Generatywna sztuczna inteligencja dla biznesu
20. ¿Cuál es el futuro de la IA según McKinsey Global Institute?
21. Inteligencia artificial en los negocios - Introducción
22. ¿Qué es la PNL o procesamiento del lenguaje natural en los negocios?
23. Procesamiento automático de documentos
24. Traductor de Google frente a DeepL. 5 aplicaciones de la traducción automática para empresas
25. El funcionamiento y las aplicaciones empresariales de los voicebots.
26. ¿Tecnología de asistente virtual o cómo hablar con la IA?
27. ¿Qué es la inteligencia empresarial?
28. ¿La inteligencia artificial reemplazará a los analistas de negocios?
29. ¿Cómo puede ayudar la inteligencia artificial con BPM?
30. IA y redes sociales: ¿qué dicen de nosotros?
31. Inteligencia artificial en la gestión de contenidos
32. IA creativa de hoy y de mañana
33. IA multimodal y sus aplicaciones en los negocios
34. Nuevas interacciones. ¿Cómo está cambiando la IA la forma en que operamos los dispositivos?
35. RPA y APIs en una empresa digital
36. El futuro mercado laboral y las próximas profesiones
37. IA en EdTech. 3 ejemplos de empresas que aprovecharon el potencial de la inteligencia artificial
38. Inteligencia artificial y medio ambiente. 3 soluciones de IA para ayudarle a construir un negocio sostenible
39. Detectores de contenido de IA. ¿Valen la pena?
40. ChatGPT frente a Bard frente a Bing. ¿Qué chatbot con IA lidera la carrera?
41. ¿Es el chatbot AI un competidor de la búsqueda de Google?
42. Avisos efectivos de ChatGPT para recursos humanos y contratación
43. Ingeniería rápida. ¿Qué hace un ingeniero rápido?
44. Generador de maquetas de IA. Las 4 mejores herramientas
45. ¿IA y qué más? Principales tendencias tecnológicas para las empresas en 2024
46. IA y ética empresarial. Por qué debería invertir en soluciones éticas
47. Meta IA. ¿Qué debes saber sobre las funciones compatibles con IA de Facebook e Instagram?
48. Regulación de la IA. ¿Qué necesitas saber como emprendedor?
49. 5 nuevos usos de la IA en los negocios
50. Productos y proyectos de IA: ¿en qué se diferencian de los demás?
51. Automatización de procesos asistida por IA. ¿Donde empezar?
52. ¿Cómo se combina una solución de IA con un problema empresarial?
53. IA como experta en tu equipo
54. Equipo de IA versus división de roles
55. ¿Cómo elegir un campo profesional en IA?
56. ¿Siempre vale la pena añadir inteligencia artificial al proceso de desarrollo de productos?
57. IA en RRHH: cómo la automatización de la contratación afecta a RRHH y al desarrollo de equipos
58. Las 6 herramientas de IA más interesantes en 2023
59. Los 6 mayores contratiempos empresariales causados ​​por la IA
60. ¿Cuál es el análisis de madurez de la IA de la empresa?
61. IA para la personalización B2B
62. Casos de uso de ChatGPT. 18 ejemplos de cómo mejorar tu negocio con ChatGPT en 2024
63. Microaprendizaje. Una forma rápida de adquirir nuevas habilidades.
64. Las implementaciones de IA en las empresas más interesantes en 2024
65. ¿Qué hacen los especialistas en inteligencia artificial?
66. ¿Qué desafíos trae el proyecto de IA?
67. Las 8 mejores herramientas de inteligencia artificial para empresas en 2024
68. IA en CRM. ¿Qué cambia la IA en las herramientas CRM?
69. La Ley de IA de la UE. ¿Cómo regula Europa el uso de la inteligencia artificial?
70. Sora. ¿Cómo cambiarán los negocios los vídeos realistas de OpenAI?