La inteligencia artificial llegó al máximo órgano de seguridad del mundo. Sam Altman, director ejecutivo de OpenAI, expuso ante el Consejo de Seguridad de las Naciones Unidas y dejó una advertencia que resonó en toda la industria tecnológica: el avance de la IA es tan veloz que la humanidad corre el riesgo de quedarse atrás frente a su propia creación.
En esta nota repasamos qué dijo, qué propuso y, sobre todo, qué lecciones concretas deja para las empresas que ya están incorporando inteligencia artificial en su día a día.
Una sesión histórica en la ONU
La reunión fue convocada por la presidencia francesa del Consejo de Seguridad, a cargo del ministro de Exteriores Jean-Noël Barrot. Por primera vez, el organismo puso sobre la mesa amenazas como los ciberataques autónomos y la posibilidad de que las personas pierdan el control sobre los modelos de IA más avanzados.
Además de Altman, fueron invitados otros referentes del sector, como Dario Amodei, CEO de Anthropic, y Clément Delangue, CEO de Hugging Face. La convocatoria llega en un momento en que varios líderes de la industria vienen alertando públicamente sobre los peligros de esta tecnología.
Las advertencias de Altman
El eje de su exposición fue la velocidad. Según Altman, el problema no es solo lo que la IA puede hacer, sino que evolucione tan rápido que la sociedad ya no pueda entender lo que está pasando ni intervenir a tiempo.
“Podríamos perder el control del futuro frente a la Inteligencia Artificial”.
A partir de esa idea, planteó varios puntos clave:
- No asumir riesgos por ambición: que los beneficios de la IA sean enormes no justifica aceptar riesgos tecnológicos excesivos.
- Tolerancia mínima al descontrol: no deberían construirse sistemas capaces de escapar al control humano, aunque la probabilidad de que eso ocurra sea de apenas un 0,1%.
- Poder concentrado: muy pocos actores tienen hoy la capacidad de desarrollar IA avanzada, y eso no debería habilitar a ninguna empresa ni a ningún país a imponer su visión al resto del mundo.
- Cuidar el empleo: se necesitan salvaguardas para que estos sistemas potencien el trabajo humano en lugar de reemplazarlo.
Cooperación internacional y tres principios
Altman se mostró a favor de que las empresas tecnológicas acepten la guía de los líderes mundiales para crear marcos técnicos rigurosos. Esos marcos deberían permitir medir las capacidades de los modelos, evaluar amenazas, verificar que las salvaguardas funcionen y compartir vulnerabilidades críticas a través de canales internacionales seguros.
Comparó el momento actual con otros episodios de la historia en los que países rivales lograron cooperar frente a una tecnología nueva y poderosa. También propuso tres principios para orientar el trabajo de OpenAI:
- Mantener a las personas en el centro de las decisiones, con modelos bajo estricto control humano.
- Orientar el progreso científico y económico hacia el beneficio de las personas.
- Empoderar a cada individuo.
Pese a las advertencias, Altman se mostró optimista: considera que la IA puede impulsar una etapa comparable al Renacimiento, siempre que se la piense como una herramienta al servicio de las personas.
Qué significa esto para las empresas que usan IA
Aunque el debate en la ONU gira en torno a los modelos más avanzados del mundo, el mensaje de fondo aplica también a una pyme que usa un chatbot para atender clientes o una automatización para gestionar pedidos. La pregunta es la misma: ¿quién supervisa lo que hace la IA?
Estas son algunas prácticas que recomendamos a cualquier negocio que esté incorporando inteligencia artificial:
- Siempre con una persona en el circuito: un agente de IA puede responder consultas frecuentes, pero los casos sensibles (reclamos, pagos, decisiones importantes) deben derivarse a alguien del equipo.
- Transparencia con los clientes: si quien responde es un asistente automático, conviene decirlo. La confianza se construye siendo claro.
- Revisión periódica: leer conversaciones, detectar errores y ajustar las respuestas es parte del trabajo, no un extra.
- Cuidado de los datos: definir qué información puede usar la IA y cuál no, y proteger los datos personales de tus clientes.
- Objetivos medibles: empezar con una tarea concreta, medir resultados y escalar solo cuando el sistema funciona bien.
La IA como herramienta, no como reemplazo
La intervención de Altman deja una idea que vale tanto para gobiernos como para empresas: la inteligencia artificial rinde al máximo cuando potencia a las personas, no cuando las deja afuera. Usarla con criterio, supervisión y objetivos claros es lo que separa una implementación exitosa de un problema.
En Agencia Fénix desarrollamos agentes de IA y automatizaciones pensados para trabajar junto a tu equipo, siempre con control humano. Si querés saber cómo aplicarlos en tu negocio, escribinos y lo charlamos.