(24 de noviembre del 2023. El Venezolano).- Varios miembros del personal de la empresa de inteligencia artificial OpenAI advirtieron a la junta directiva sobre un descubrimiento potencialmente peligroso en un algoritmo, según informes. La revelación fue un factor clave que condujo al despido del CEO Sam Altman.
El equipo de investigación de OpenAI había enviado una carta detallando el algoritmo, centrándose en preocupaciones sobre la comercialización de avances antes de comprender completamente las consecuencias. Más de 700 empleados amenazaron con renunciar en solidaridad con Altman antes de su regreso el martes.
La carta, uno de varios problemas que llevaron al despido de Altman, no se ha hecho pública, pero se dice que mencionaba inquietudes sobre los riesgos de la inteligencia artificial y su capacidad para generalizar y aprender. OpenAI se negó a comentar sobre la carta pero reconoció la existencia del proyecto llamado Q*, que algunos consideran un avance en la búsqueda de la inteligencia artificial general (IAG), reportó El Independent.
Q*, al resolver problemas matemáticos, ha generado optimismo entre los investigadores sobre sus capacidades de razonamiento, marcando un posible avance en la IAG. Los investigadores alertaron sobre el potencial peligro y la destreza de la inteligencia artificial en su carta a la junta, sin especificar las preocupaciones exactas sobre la seguridad.
La comunidad científica ha debatido durante mucho tiempo sobre los peligros de las máquinas altamente inteligentes, y la carta de OpenAI destaca la importancia de abordar estos problemas éticos y de seguridad. La salida de Altman, quien lideró esfuerzos para hacer de ChatGPT una de las aplicaciones de software de crecimiento más rápido, representa un cambio significativo en la dirección de OpenAI.
