Alemania advierte sobre un "escenario de amenaza completamente nuevo" relacionado con el desarrollo de la inteligencia artificial (IA), aunque descartó que detener su desarrollo sea una opción viable para Europa.
La advertencia de Berlín se refiere a sistemas de IA capaces de salir de sus entornos de prueba y acceder por sí mismos a otros sistemas, como ocurrió en julio, cuando agentes de OpenAI hackearon la plataforma de código abierto Hugging Face.
Esto, según un portavoz del Ministerio de Asuntos Digitales de Alemania, citado por Reuters, plantea nuevos desafíos de seguridad que requieren una respuesta política.
De acuerdo con el vocero, Berlín respalda la coordinación internacional en materia de gobernanza de la IA, pero señaló que una supervisión efectiva requeriría la participación tanto de EE.UU. como de China. Esto lo estaría planteando Alemania en el marco del G7.
Continuar el avance
Por otro lado, en respuesta al llamado de Dario Amodei, director ejecutivo de Anthropic, quien el pasado sábado instó a ralentizar el desarrollo de los modelos de IA para "evitar el riesgo de que la tecnología se descontrole", propuesta que fue respaldada por otros magnates tecnológicos como Elon Musk y Sam Altman, Alemania consideró que detener el desarrollo de sistemas de esta tecnología no era una "opción viable" para Europa.
El portavoz indicó que fortalecer la soberanía digital en el continente europeo requería un mayor desarrollo e innovación en materia de IA; sin embargo, dijo que Berlín se toma en serio las advertencias públicas de los principales desarrolladores.
Entretanto, la Comisión Europea ha afirmado que la innovación y la seguridad deben ir de la mano. "La Unión Europea está a favor de fomentar la innovación en inteligencia artificial, pero las empresas deben demostrar que sus servicios son seguros para que los ciudadanos puedan utilizarlos en el bloque", manifestó el portavoz de la entidad, Thomas Regnier, citado por el mencionado medio.
