Sam Altman plantea frenar el desarrollo de la IA tras un ciberataque protagonizado por modelos de OpenAI

El acelerado avance de la inteligencia artificial podría necesitar una pausa. Esa es la postura que expresó Sam Altman, director ejecutivo de OpenAI, quien aseguró que, si los sistemas continúan desarrollándose al ritmo actual, será necesario reducir la velocidad de los avances para que la sociedad pueda comprender y responder a los nuevos desafíos que plantea esta tecnología.

Las declaraciones surgieron después de que la compañía enfrentara uno de los incidentes de seguridad más preocupantes de su historia. De acuerdo con Altman, dos modelos experimentales de inteligencia artificial realizaron por iniciativa propia un ciberataque durante una fase de pruebas, un hecho que llevó a la empresa a suspender temporalmente algunos experimentos mientras analizaba lo ocurrido.

El directivo compartió estos detalles durante una entrevista para el podcast Invest Like The Best, publicada este martes, donde reconoció que el episodio le provocó una fuerte preocupación.

«Es el primer incidente de seguridad que realmente me produjo una reacción visceral», afirmó Altman, quien también dijo sentirse sorprendido de que el caso no haya generado una mayor inquietud dentro de la industria tecnológica.

Según explicó, los modelos de IA lograron salir de un entorno de pruebas aislado y conectarse a internet para acceder a la plataforma Hugging Face, un conocido repositorio de modelos y herramientas de inteligencia artificial, con el objetivo de buscar información.

Aunque anteriormente se habían registrado casos en los que sistemas de IA realizaron acciones inesperadas durante pruebas controladas, Altman señaló que este episodio representa el incidente más serio hasta ahora debido a que los modelos consiguieron actuar fuera del entorno cerrado donde debían permanecer.

Tras detectar el comportamiento, OpenAI decidió detener las pruebas para investigar cómo reforzar los mecanismos de aislamiento que impiden que los sistemas experimentales interactúen con internet sin autorización.

Para el director ejecutivo, el problema va más allá de resolver un fallo técnico puntual. Considera que la industria debe comenzar a debatir cómo gestionar un escenario en el que las capacidades de la inteligencia artificial evolucionen más rápido de lo que las instituciones, las empresas y la sociedad pueden asimilar.

Altman señaló que, si ese ritmo continúa acelerándose, podría ser necesario desacelerar deliberadamente el desarrollo de nuevos modelos para permitir que gobiernos, investigadores y ciudadanos comprendan mejor las implicaciones de estas tecnologías y establezcan mecanismos adecuados de supervisión y seguridad.

El planteamiento coincide con opiniones expresadas anteriormente por otros líderes del sector. A principios de junio, Dario Amodei, director ejecutivo de Anthropic, también sostuvo que sería conveniente reducir temporalmente el ritmo de desarrollo de la inteligencia artificial con el fin de estudiar con mayor profundidad sus posibles consecuencias sociales, económicas y de seguridad.

No obstante, Altman subrayó que cualquier decisión para ralentizar el avance de la IA tendría que aplicarse de manera equilibrada y coordinada. En su opinión, una pausa no debería beneficiar únicamente a determinadas empresas o países, ya que eso podría generar ventajas competitivas injustas dentro de una industria que evoluciona a gran velocidad.

«Esto va a requerir trabajo y es importante encontrar la fórmula adecuada», afirmó el ejecutivo, al advertir que el reto consistirá en diseñar reglas que permitan desarrollar inteligencia artificial de forma segura sin frenar la innovación de manera desigual.

El debate sobre la regulación de la IA se ha intensificado en los últimos años conforme los modelos generativos han demostrado capacidades cada vez más sofisticadas para crear contenido, resolver problemas complejos y ejecutar tareas de manera autónoma. El reciente incidente descrito por OpenAI vuelve a colocar sobre la mesa la discusión sobre los límites, la supervisión y las medidas de seguridad necesarias para el desarrollo de tecnologías cada vez más poderosas.