El secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, advirtió este miércoles 16 de septiembre sobre los riesgos asociados con el desarrollo acelerado de la inteligencia artificial (IA), al señalar que sus efectos no se limitan a las fronteras nacionales. Sus declaraciones se suman a advertencias recientes de gobiernos, especialistas y directivos de empresas tecnológicas.
Guterres sostuvo que “la IA no se detiene en las fronteras y tampoco sus riesgos” y señaló que un número creciente de personas involucradas en su desarrollo ha comenzado a expresar preocupación porque el avance tecnológico está ocurriendo más rápido que la capacidad para comprender sus consecuencias.
Las declaraciones ocurrieron después de que Sam Altman, director ejecutivo de OpenAI, reconociera durante la conferencia Dreamforce de Salesforce que existen razones para temer que las empresas desarrolladoras de IA puedan adquirir demasiado poder o ejercer una influencia indebida. También señaló que las compañías enfrentan riesgos relacionados con accidentes, pérdida de control y problemas de seguridad, por lo que planteó la necesidad de elevar el nivel de supervisión y alineación de los sistemas.
Los llamados a establecer controles también han surgido desde otros sectores. Volker Türk, alto comisionado de la ONU para los Derechos Humanos, pidió el 14 de septiembre una “acción urgente” para regular los sistemas más avanzados de IA, al advertir sobre posibles riesgos para los derechos humanos. En tanto, Ivonne A-Baki, diplomática de la ONU, planteó la necesidad de regular esta tecnología y consideró relevante una cooperación entre Estados Unidos y China.
En China, el ministro de Seguridad del Estado, Chen Yixin, advirtió el 12 de septiembre que la inteligencia artificial generativa puede ser utilizada para fabricar rumores políticos y difundir información que, según señaló, podría afectar la seguridad del país.
Por otra parte, Dario Amodei, director ejecutivo de Anthropic, se pronunció por un ritmo de desarrollo que permita evaluar y reducir los riesgos de los nuevos sistemas, propuesta que recibió respaldo público de Altman, Elon Musk, Demis Hassabis y Satya Nadella.
Otra advertencia provino de Jacob Coxon, ingeniero británico que trabajó en OpenAI y Anthropic, quien tras anunciar su salida de esta última empresa sostuvo el 8 de septiembre que algunos desarrolladores consideran posible que la IA represente un riesgo extremo antes de que termine la década. A estas preocupaciones se sumó una carta firmada por 25 matemáticos galardonados con la Medalla Fields, quienes señalaron que el avance de la IA puede tener efectos importantes en la investigación matemática y que las decisiones de quienes controlan estas herramientas serán determinantes para definir sus consecuencias.
Deja un comentario