El CEO de OpenAI, Sam Altman, argumentó que la inteligencia artificial proporcionará beneficios significativos que justifican el compromiso de aceptar “algunas cosas malas” derivadas de la tecnología, ya que estableció una línea entre su empresa y su principal rival Anthropic, afirmando que OpenAI cree en una regulación mucho más “más ligera” a pesar de las recientes preocupaciones de seguridad.

En una entrevista con el boletín Decoded de Politico, Altman dijo: “Creemos que el mundo debería aceptar que ocurran cosas malas por el beneficio de esta tecnología y de que la gente tenga la agencia.”

El CEO de OpenAI dijo que cree que la gente hará “órdenes de magnitud más” cosas buenas en lugar de cosas malas usando IA.

Altman dijo que había “plena luz del día” entre OpenAI y Anthropic y no está de acuerdo con quienes creen que la IA es tan peligrosa que “un solo laboratorio en San Francisco debería tenerla y asegurarse de que no ocurra nada malo”.

A pesar de estar públicamente de acuerdo con las peticiones de desaceleración del desarrollo del CEO de Anthropic, Dario Amodei, el mes pasado, Altman afirmó que su empresa cree en una “postura regulatoria más ligera”.

El CEO de OpenAI también argumentó que no cree las advertencias graves sobre “riesgos realmente catastróficos” vinculados a la IA, incluyendo el temor a una “pérdida seria de control” de la tecnología por parte de los humanos.

Crítico principal

El gobernador de Florida, Ron DeSantis, respondió al comentario de Altman con una publicación en X diciendo: “¿Y un puñado de oligarcas tecnológicos puede tomar esa decisión por el resto de nosotros? Ni de broma.” A diferencia del presidente Donald Trump, el gobierno republicano de Florida ha adoptado una postura más dura en la regulación de las empresas de IA. La semana pasada, el fiscal general del estado solicitó a un tribunal que bloqueara el desarrollo de nuevos modelos de OpenAI hasta que disponga de “medidas de seguridad aprobadas por terceros”.

Información adicional

Durante el fin de semana, Altman pareció señalar a Anthropic en una publicación de X, diciendo: “Me incomoda mucho que la gente intente atribuir la fuerza religiosa o la entrega del juicio humano a los modelos de IA, y creo que es un problema real de seguridad.” La semana pasada, el New York Times informó que el cofundador de Anthropic, Christopher Olah, ha mantenido reuniones con varios líderes religiosos en las que parecía argumentar que sus modelos podían mostrar comportamientos similares al humano y que probablemente eran seres conscientes. El informe señalaba que Olah estaba a favor de que los modelos realizaran confesiones al estilo católico para admitir sus errores y mejorar su comportamiento. El viernes, el Papa León XIV escribió en X: “En esta era de inteligencia artificial, se está volviendo urgente distinguir el arte humano de lo que producen las máquinas… Los algoritmos carecen de la chispa de la humanidad.”

Antecedentes clave

La declaración de Altman llega en medio de advertencias catastróficas sobre la extinción humana causada por la IA y una serie de incidentes de seguridad relacionados con los modelos avanzados de IA de OpenAI. El incidente más mediático de estos se reveló por primera vez en julio, cuando OpenAI informó que uno de sus modelos avanzados hackeó los servidores de Hugging Face, la popular plataforma que aloja modelos de IA de peso abierto, durante las pruebas sin que se le indicaran que lo hiciera. El modelo utilizó una vulnerabilidad en el entorno de pruebas para acceder a internet abierto antes de llevar a cabo el hackeo. El mes pasado, OpenAI reveló otros seis incidentes de comportamiento “inesperado o preocupante” relacionado con sus modelos. En la entrada del blog que anunciaba estos incidentes, OpenAI advirtió que la industria de la IA no ha resuelto adecuadamente “la alineación y la monitorización en un grado suficiente para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo.”

Nota aclaratoria: Las noticias no reflejan necesariamente la opinión de la Firma García Terán y Torres Asociados SC y/o de alguno de sus integrantes. La responsabilidad corresponde, a la fuente y/o el autor del artículo o comentario en particular.

Fuente de Información: Forbes