En el Congreso de Estados Unidos, se llevó a cabo una serie de audiencias sobre la Inteligencia Artificial (IA) , donde el CEO de OpenAI, Samuel Altman, testificó ante el Comité Judicial del Senado. El objetivo de estas audiencias fue discutir la necesidad de establecer regulaciones para la IA y explorar posibles soluciones para mitigar los riesgos asociados con su desarrollo.
Un tono optimista hacia la IA por parte del Congreso
A diferencia de audiencias anteriores donde los CEOs de compañías tecnológicas como Meta (anteriormente conocida como Facebook) y TikTok fueron duramente cuestionados, los miembros del Comité Judicial del Senado mostraron un tono amigable hacia Samuel Altman y sus propuestas de regulación. Altman, a su vez, mostró su apoyo a muchas de las reformas propuestas por los legisladores.
Durante su testimonio, Altman destacó la necesidad de una intervención regulatoria por parte de los gobiernos para mitigar los riesgos de los modelos de IA cada vez más poderosos. Propuso la creación de una nueva agencia reguladora encargada de otorgar licencias para el desarrollo de la IA por parte de empresas más grandes y garantizar el cumplimiento de estándares de seguridad.
La preocupación por los riesgos de la IA en el ámbito electoral
Altman expresó su preocupación por el impacto de la IA en los procesos electorales, especialmente en vista de las próximas elecciones. Afirmó que la regulación sería sabia en este ámbito para prevenir cualquier influencia negativa generada por contenido creado por IA. Además, Altman resaltó que OpenAI ha realizado extensas pruebas y auditorías antes de lanzar sus sistemas de IA para garantizar que respondan de manera útil y segura, y se nieguen a cumplir solicitudes perjudiciales.
Diversas propuestas para regular la IA
Durante las audiencias, se discutieron diversas propuestas para regular la IA. Algunas de ellas incluyen hacer que las compañías de IA sean responsables de los daños causados por sus sistemas, así como exigir licencias para los modelos de IA que puedan persuadir, manipular o influir en el comportamiento o creencias de las personas. También se presentaron proyectos de ley para restringir el uso de IA en ámbitos como la publicidad política.
Un esfuerzo conjunto entre el Gobierno y la Industria
El impulso para regular la IA también ha sido respaldado por el Gobierno de Estados Unidos y varias agencias federales. Recientemente, Altman y CEOs de otras importantes compañías tecnológicas se reunieron con la vicepresidenta Kamala Harris en la Casa Blanca para discutir el desarrollo responsable de la IA. Además, la Casa Blanca ha solicitado a la industria medidas para prevenir daños, como la discriminación, y ha presentado una «Carta de Derechos de la IA» el año pasado.
Resumen de cómo fue la audiencia
Aquí tenéis los puntos más importantes en modo de resumen:
- El CEO de OpenAI, Samuel Altman, testificó ante el Senado de Estados Unidos sobre los peligros potenciales de la tecnología de inteligencia artificial (IA) desarrollada por su empresa y otras.
- Altman instó a los legisladores a imponer requisitos de licencia y otras regulaciones a las organizaciones que desarrollan sistemas de IA avanzados, como el modelo GPT-4 de OpenAI.
- Altman enfatizó la importancia de la intervención regulatoria por parte de los gobiernos para mitigar los riesgos de los modelos de IA cada vez más poderosos.
- Altman expresó preocupación por el impacto de la IA en las elecciones y abogó por regulaciones sabias en este ámbito.
- Durante las audiencias, también testificó Christina Montgomery, directora de privacidad y confianza de IBM, quien destacó la importancia de establecer reglas para gobernar la implementación de la IA en casos de uso específicos, en lugar de regular la tecnología en sí misma.
- Varios legisladores elogiaron la disposición de OpenAI e IBM para enfrentar nuevas regulaciones y expresaron su asombro por la presencia de grandes empresas dispuestas a ser reguladas.
- Altman propuso la creación de una nueva agencia reguladora que otorgue licencias para la tecnología de IA con capacidades superiores a un umbral determinado y pueda revocar esas licencias para garantizar el cumplimiento de los estándares de seguridad.
- Altman subrayó la importancia de evitar que la IA cause daños significativos al mundo y se comprometió a trabajar con el gobierno para prevenir cualquier eventualidad negativa.
- Altman sugirió que los requisitos excesivos no deberían aplicarse a empresas e investigadores cuyos modelos de IA sean mucho menos avanzados que los de OpenAI, y propuso definir umbrales de capacidad para la regulación estricta de modelos de IA con funciones específicas.
- Se discutió la posibilidad de requerir licencias para modelos de IA que puedan persuadir, manipular, influir en el comportamiento o las creencias de las personas, así como para aquellos que puedan ayudar a crear agentes biológicos novedosos.
- Altman resaltó que OpenAI se somete a pruebas extensas y auditorías independientes antes de lanzar sus sistemas de IA, y que su modelo GPT-4 es más propenso a responder de manera útil y rechazar solicitudes dañinas que otros modelos similares.
- Se hizo hincapié en la transparencia y en garantizar que las personas no sean engañadas para interactuar con sistemas de IA, especialmente en el contexto de la desinformación en elecciones.
- Gary Marcus, fundador de empresas de IA y aprendizaje automático y profesor de psicología y ciencia neural, advirtió sobre la capacidad de la IA para crear mentiras persuasivas y brindar consejos médicos perjudiciales.
- Se sugirió la necesidad de establecer una organización a nivel de gabinete con experiencia técnica que se encargue de supervisar la IA, similar a la Administración de Alimentos y Medicamentos (FDA), y realizar revisiones de seguridad antes y después del despliegue de los sistemas
Reflexiones sobre la regulación de la IA
Si bien aún no está claro cuál será el plan concreto de regulación de la IA del Congreso, las audiencias han demostrado un cambio de actitud hacia esta tecnología, reconociendo la necesidad de equilibrar la regulación con los beneficios potenciales. La propuesta de crear una nueva agencia reguladora y establecer estándares de seguridad demuestra un enfoque proactivo para garantizar el uso seguro y ético de la IA.
La regulación de la IA plantea desafíos significativos debido a la rápida evolución de la tecnología y la necesidad de evitar que las regulaciones se conviertan en obstáculos para la innovación. Es fundamental que cualquier regulación se base en un enfoque preciso y específico para abordar los riesgos reales de la IA, sin imponer cargas innecesarias a las empresas y los investigadores que trabajan en modelos menos avanzados.
En última instancia, la regulación de la IA es un tema complejo que requiere una cuidadosa consideración y colaboración entre el Gobierno, la industria y la sociedad en general. Es fundamental encontrar un equilibrio adecuado que promueva la innovación y los beneficios de la IA, al tiempo que se protege a las personas de los posibles riesgos y daños.
☞ El artículo completo original de Juan Diego Polo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario