(13 de febrero del 2024. El Venezolano).- El director ejecutivo de OpenAI, Sam Altman, advirtió el martes que «desalineamientos sociales muy sutiles» dentro de la inteligencia artificial (IA) podrían hacer que las cosas «salgan terriblemente mal», al tiempo que expresó optimismo sobre los beneficios de la tecnología.
“Hay algunas cosas allí que son fáciles de imaginar y en las que realmente salen mal. Y no estoy tan interesado en los robots asesinos que caminan por las calles en dirección a las cosas que van mal”, dijo Altman el martes a través de una videollamada en la Cumbre Mundial de Gobiernos en Dubai, Emiratos Árabes Unidos.
«Estoy mucho más interesado en los desajustes sociales muy sutiles en los que simplemente tenemos estos sistemas en la sociedad y, sin ninguna mala intención en particular, las cosas simplemente van terriblemente mal», añadió Altman, cuya empresa creó ChatGPT.
Altman, sin embargo, dijo que cree que “las cosas irán tremendamente bien” si se hacen esfuerzos para mitigar las desventajas de la tecnología de inteligencia artificial.
«Creo que podemos imaginar un mundo en un futuro no muy lejano donde todos tengan una vida mejor que la que tienen hoy», dijo. «Creo que podemos elevar el nivel de vida increíblemente si todos tienen acceso a cantidades abundantes de inteligencia de muy alta calidad y pueden usar esas herramientas para crear lo que quieran hacer… eso es bastante sorprendente».
El ejecutivo tecnológico enfatizó su presión para que se establezca un organismo, similar a la Agencia Internacional de Energía Atómica, para supervisar la IA.
“Creo que en algún momento vamos a necesitar algún tipo de sistema global”, dijo, y luego agregó: “¿Qué tipo de auditoría? ¿Qué tipo de medidas de seguridad queremos que se implementen antes de poder desplegar una superinteligencia, o como quiera llamarla AGI [inteligencia general artificial]?
Cuando se le preguntó qué debería hacer más el gobierno en el aspecto regulatorio, Altman argumentó que el mundo todavía se encuentra en una etapa de “mucha discusión”.
“Entonces, ya sabes, todo el mundo está celebrando una conferencia. Todo el mundo tiene una idea, un documento de política, y eso está bien”, dijo Altman. «Creo que todavía estamos en un momento en el que el debate es necesario y saludable, pero en algún momento de los próximos años, creo que tendremos que avanzar hacia un plan de acción con una aceptación real en todo el mundo».
Pero argumentó que OpenAI no debería ser quien determine las regulaciones sobre su tecnología de rápido avance.
Altman ha pedido repetidamente que el gobierno regule la IA y ha advertido que la tecnología que cambia rápidamente tiene sus riesgos.
Los legisladores en el Capitolio han expresado su preocupación por los peligros y Altman se comprometió a trabajar con estos legisladores para minimizar los riesgos.
La startup de IA con sede en San Francisco ha sido un actor importante en la carrera de la IA, y Microsoft ha invertido miles de millones en la empresa . Associated Press firmó un acuerdo con OpenAI el año pasado para licenciar el archivo de noticias de AP para ayudar a entrenar los sistemas de la compañía de inteligencia artificial.
Sin embargo, OpenAI también ha sido objeto de escrutinio por el proceso en el que entrena a sus chatbots. El New York Times demandó a Microsoft y OpenAI por infracción de copia poco antes del nuevo año, acusando a las empresas de utilizar millones de sus artículos para entrenar sus modelos de IA.
