Problemas emergentes de IA que afectan a las empresas de ciencias biológicas de la UE y el Reino Unido |  JD Supra

Problemas emergentes de IA que afectan a las empresas de ciencias biológicas de la UE y el Reino Unido | JD Supra

Cómo la UE está liderando el camino en el desarrollo de la regulación de la IA

El panel comenzó señalando que ha pasado un año desde que la Comisión Europea (Comisión) publicó su propuesta Marco normativo de la UE sobre inteligencia artificial (IA). La propuesta, publicada en abril de 2021, representa la primera regulación intersectorial de este tipo, creando un marco integral que abordará cuestiones éticas difíciles como el sesgo y la transparencia, así como los riesgos derivados de la toma de decisiones automatizada. Según el moderador del panel IrlandaSocio sénior del grupo de Propiedad Intelectual, Medios y Tecnología de Hogan Lovells, el panorama legal de la IA exige que salgamos del vacío de nuestros propios sectores y trabajemos a través de silos.

Dan cabeza blanca, abogado de Hogan Lovells Privacy and Cybersecurity, señaló que en los últimos años la UE se ha centrado significativamente en la regulación digital y que la ley de IA propuesta tendrá un profundo impacto en la gobernanza de la UE. Whitehead señaló que las sanciones en virtud de la ley de IA propuesta son incluso mayores que las previstas en el Reglamento General de Protección de Datos (GDPR) y podrían alcanzar los 30 millones de euros o el 6% de la cifra del informe comercial global anual. El Sr. Whitehead señaló que el RGPD y otras reglamentaciones existentes (como las leyes contra la discriminación y la seguridad de los productos) ya abordan indirectamente algunos de los riesgos clave asociados con la IA, como el riesgo de sesgo, la inexactitud del desempeño (falsos positivos o negativos) la los riesgos para la seguridad del paciente cuando la IA se usa en un entorno de atención médica y los desafíos de explicar tecnologías complejas y su impacto en las decisiones y acciones en el mundo real. El nuevo marco regulatorio de IA de la UE irá más allá en la gestión de estos riesgos, especialmente en el contexto de la tecnología de IA.

Bonella Ramsay, asesor principal en la práctica regulatoria global de la firma, brindó una descripción general de la regulación de IA en el contexto de dispositivos médicos y diagnósticos in vitro (IVD). Señaló que la nueva UE Regulación de Dispositivos Médicos (EU MDR) se aplica a partir de mayo de 2021 y Reglamento sobre productos sanitarios para diagnóstico in vitro (IVDR) a partir de mayo de 2022. Ambos son transitorios, pero en el contexto del software como dispositivo médico, la IA se considerará automáticamente un dispositivo médico de Clase IIA, posiblemente incluso Clase III o Clase IIB, realizando una evaluación de conformidad para el marcado CE mas complejo. Sin embargo, las regulaciones de la UE no abordan expresamente la IA como un dispositivo médico, lo que genera dudas sobre cómo se tratarán los productos de IA en el marco regulatorio actual y la Ley de IA propuesta.

¿Reino Unido sigue el ritmo de la UE?

El Sr. Whitehead señaló que, si bien la UE está a la cabeza, el Reino Unido también ha emitido una Estrategia Nacional de IA el año pasado, que contiene planes ambiciosos en términos de inversión y regulación de la IA en todos los sectores. Queda por ver cómo estos planes se implementarán en la práctica.

La Sra. Ireland señaló que, en el contexto de la PI, el Reino Unido sigue el ritmo y ya está buscando formas en que las leyes de PI puedan y/o deban responder a las complejidades que presenta la IA. En 2021, la Oficina de Propiedad Intelectual del Reino Unido (UK IPO) abrió una Consulta preguntando, entre otras preguntas, si las invenciones diseñadas por IA deberían estar protegidas por una patente y, de ser así, ¿cómo? Las pautas de la OPI del Reino Unido se esperan en breve.

Próximos pasos prácticos

Luisa Crawford, un socio principal en la práctica de tecnología de Hogan Lovells, proporcionó una descripción general de cómo el régimen de responsabilidad actual, que se basa en un mosaico de leyes sobre responsabilidad civil, responsabilidad por productos defectuosos, discriminación, confidencialidad y contratos, puede no ser suficiente para proporcionar remedios adecuados para los que sufran pérdidas por errores o faltas de AI. En este análisis, es importante identificar un vínculo entre la falla y la pérdida, lo que puede ser particularmente difícil cuando varias partes han estado involucradas en el desarrollo y operación de una solución compleja. Este régimen de responsabilidad está siendo revisado actualmente por la Comisión Europea y se esperan propuestas de cambios significativos en un futuro próximo.

Reflexión sobre un Informe técnico CE 2020, la Sra. Crawford señaló que, aunque todavía está en sus inicios, es probable que la UE adopte un enfoque doble de 1) ampliar el régimen actual de responsabilidad por productos defectuosos para abarcar los productos digitales y 2) introducir un régimen específico para los operadores de IA que distinga entre altos -riesgo y sistemas de bajo riesgo y asigna la responsabilidad en consecuencia. En cuanto a la reforma legal en este ámbito, las prioridades de la Comisión serán 1) la armonización entre los Estados miembros; y 2) garantizar que el marco de rendición de cuentas sea lo suficientemente sólido como para fomentar la confianza en la tecnología de IA y alentar el desarrollo continuo en esta área.

Pasando a su “mejor consejo” para que los clientes aborden los riesgos de responsabilidad relacionados con la IA, el panel enfatizó que contar con el marco de gobierno adecuado será fundamental. Ya sea local o de un proveedor externo, al usar tecnología de IA, las empresas deberán contar con un marco de políticas y protocolos que cubran los análisis de costo/beneficio y los mecanismos de evaluación de factores. Para las empresas que utilizan proveedores para ofrecer tecnología de IA, también es esencial realizar la diligencia debida sobre el proveedor, la tecnología y los datos. Los proveedores deben poder explicar la eficacia de su producto, así como los riesgos, y poder demostrar cómo se mitigan estos riesgos. También deben existir obligaciones contractuales apropiadas para abordar los riesgos de responsabilidad asociados con la tecnología.

El panel cerró su sesión aconsejando a las partes interesadas que presten mucha atención a los desarrollos en este espacio que cambia rápidamente: se están realizando importantes inversiones en tecnología de IA junto con un entorno regulatorio en evolución. La Sra. Ramsay aconsejó a las empresas de ciencias de la vida que se mantuvieran al tanto de las reglamentaciones que se aplican en cada etapa del diseño e implementación de un producto de IA. Whitehead dijo que aconseja a los clientes que se tomen en serio la gobernanza de la IA y que no solo metan su régimen de cumplimiento de la IA en otro grupo de políticas. El Sr. Whitehead también aconsejó a las partes interesadas que se comprometan con los reguladores en las propuestas de políticas mientras aún sea posible hacerlo: la ley de IA aún no está vigente y las propuestas podrían cambiar significativamente antes de que se conviertan en ley. La Sra. Ireland dijo que las personas siguen siendo centrales, no solo en el proceso de I+D, sino también en términos de seguimiento y desarrollo de activos como la propiedad intelectual.

#Problemas #emergentes #afectan #las #empresas #ciencias #biológicas #Reino #Unido #Supra

Leave a Comment

Your email address will not be published.