A pesar del gran avance en las herramientas de IA, las restricciones del Gobierno en China pueden acabar frenando su eficacia. Esto no es ninguna sorpresa, ya que cualquier empresa, sea local u extranjera, debe alinearse con los valores y legislación de este gobierno, lo que ha provocado en muchas ocasiones que algunas empresas extranjeras abandonen sus operaciones allí debido a las limitaciones de su gobierno.
La IA en China y la censura de su gobierno
En una época en la que la IA está más avanzada que nunca, ahora las compañías especializadas en este sector en China deben afrontar una nueva supervisión por parte del gobierno Chino para “garantizar que sus modelos de lenguaje encarnan los valores socialistas fundamentales”, según fuentes del Financial Times.
Esta supervisión está siendo llevada a cabo por la CAC (Cyberspace Administration of China), que es básicamente el organismo regulador de Internet en China. El proceso se llevará a cabo tanto para las empresas más grandes de la industria, como ByteDance o Alibaba, hasta startups más pequeñas.
Respuesta generada por Kimi AI tras preguntarle sobre un tema delicado Los modelos de lenguaje serán probados por oficiales locales de la CAC para comprobar cómo responden sus herramientas a través de una serie de preguntas para interactuar con su IA. La gran mayoría de estas respuestas serán de temas especialmente sensibles en China y sobre el presidente Xi Jinping.
Según fuentes de FT, una compañía con sede en Hangzhou no pasó la primera ronda de preguntas por razones que se desconocen. Sin embargo, pasaron el test en una segunda prueba después de “meses de probar y ajustar”.
Los esfuerzos de la CAC ilustran cómo desde China han querido ponerse a la altura de Estados Unidos en cuanto a eficacia y precisión de sus modelos de lenguaje mientras vigilaban muy de cerca el desarrollo de esta tecnología para asegurarse de que los contenidos generados por IA cumplían con las estrictas políticas de censura.
Todas las herramientas de IA que se ofrecen en China deben cumplir una serie de obligaciones por parte del gobierno chino con el fin de no entablar conversaciones sobre temas delicados que comprometan la opinión y valores de su gobierno. En Genbeta probamos hace un tiempo Kimi AI, una de las alternativas a ChatGPT más populares del país, haciéndole preguntas comprometidas sobre el gobierno chino. En nuestras carnes vivimos que, efectivamente, estas herramientas no pueden ofrecer detalles sobre temas políticos o sucesos históricos comprometidos.
La vigilancia constante y la censura son factores muy comunes en la sociedad china. En el caso de los modelos de lenguaje, se aplican filtros muy estrictos y configuraciones para eliminar “información problemática”, según afirmaban fuentes del medio. No obstante, en las pruebas de la CAC, los modelos de lenguaje tienen un número limitado de preguntas que pueden rechazar responder, por ello, también deben ofrecer respuestas políticamente correctas ante preguntas delicadas.
Un experto en IA asegura a FT que es muy difícil que un modelo de lenguaje evite generar todo tipo de contenido dañino, por lo que una de las soluciones pasa por aplicar capas adicionales en el sistema para detectar y procesar en tiempo real que no se muestra ese contenido.
Imagen de portada | Generada por IA con Copilot Designer
-
La noticia La IA en China ha evolucionado de manera sorprendente, pero tienen un problema si quieren mejorar: la supervisión de su Gobierno fue publicada originalmente en Genbeta por Antonio Vallejo .
☞ El artículo completo original de Antonio Vallejo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario