Riesgos de la inteligencia artificial en empresas 2026
El 8 de septiembre, un investigador llamado Jacob Coxon publicó en X que renunciaba a Anthropic. En su mensaje acusó a su propia empresa y a OpenAI de estar "corriendo directo hacia la superinteligencia auto-mejorable y apostando con nuestras vidas".
Agregó una frase que se volvió titular en todo el mundo: "La gente que está construyendo IA sinceramente cree que podría matarnos a todos antes de que termine la década."
El tuit lleva más de 70 millones de vistas. Y la cobertura ha sido, previsiblemente, apocalíptica.
Pero hay un detalle en esta historia que casi nadie está contando, y que la da vuelta por completo.
Qué pasó exactamente
Coxon no era un pasante ni un observador externo. Fue parte del personal técnico de OpenAI entre 2023 y julio de 2026, donde contribuyó al desarrollo de GPT-4o, y luego pasó al equipo de pretraining de Anthropic. Conoce el proceso desde adentro.
Su preocupación específica tiene nombre técnico: auto-mejora recursiva. Es la idea de un sistema de IA capaz de mejorar su propio código sin intervención humana, entrando en un ciclo que se acelera solo. Coxon sostiene que las dos empresas están yendo directo hacia allá sin haber resuelto cómo controlarlo.
Renunció, y además anunció que se retira por completo de la industria.
El detalle que cambia toda la historia
Aquí es donde se pone interesante. Normalmente, cuando un empleado renuncia acusando a su empresa de poner al mundo en peligro, la empresa responde con un comunicado de relaciones públicas: matiza, desmiente, minimiza.
Anthropic no hizo nada de eso.
El jefe de seguridad le dio la razón. Y fue más lejos.
Evan Hubinger, líder del equipo de ciencia de alineación de Anthropic — es decir, el responsable de que los modelos de la empresa sean seguros — respondió públicamente. No para contradecirlo, sino para confirmarlo.
Hubinger dijo que su equipo efectivamente cree que la IA podría matar a todos los humanos, ubicó la probabilidad por encima del 10% en la próxima década, y admitió que Anthropic no tiene un plan resuelto para alinear una superinteligencia ni va claramente encaminada a tenerlo.
Otros investigadores de la empresa, incluido Samuel Marks, del equipo de supervisión escalable, respaldaron públicamente partes del argumento de Coxon.
Léelo otra vez: el responsable de seguridad de una empresa de 180 mil millones de dólares dijo en público que su equipo no sabe cómo resolver el problema más importante de su industria.
Por qué esto es, en realidad, una buena señal
Suena contraintuitivo, lo sé. Pero compara este episodio con cómo se comportaron otras industrias que sí terminaron haciendo daño.
Las tabacaleras pasaron cuarenta años negando que la nicotina fuera adictiva, mientras sus propios estudios internos decían lo contrario. Los fabricantes de asbesto escondieron investigaciones sobre cáncer pulmonar durante décadas. En la crisis hipotecaria de 2008, las advertencias internas casi nunca salieron a la luz hasta que ya era tarde.
En ninguno de esos casos hubo un ingeniero renunciando en público, y muchísimo menos un jefe de seguridad de la propia empresa diciendo "tiene razón, y de hecho es peor de lo que dice".
Una industria que discute sus riesgos en voz alta es una industria vigilable
El peligro real no es una tecnología cuyos creadores debaten públicamente sus riesgos. El peligro real es una tecnología cuyos creadores callan.
Lo que estamos viendo es un sector donde la disidencia interna es visible, donde los desacuerdos técnicos se ventilan en público y donde la propia empresa admite lo que no sabe. Eso permite que reguladores, periodistas, clientes y competidores puedan evaluar de qué se está hablando.
La crítica justa: también hay incentivo comercial
Para ser equilibrados, hay que decir que no todos leen esta apertura como virtud. Varios analistas señalan que hablar de riesgo existencial le conviene comercialmente a estas empresas: proyecta la idea de que su tecnología es tan poderosa que podría acabar con el mundo, lo cual es un argumento de venta disfrazado de advertencia. Algunos lo llaman safety-washing.
Es una crítica legítima y vale la pena tenerla presente. Pero incluso concediéndola, la transparencia sigue siendo preferible al silencio.
Ahora sí: los riesgos reales para tu empresa
Mientras Silicon Valley discute superinteligencia, los riesgos de la inteligencia artificial en empresas colombianas son mucho más aterrizados. Ninguno involucra robots. Todos son perfectamente evitables.
Esta es la diferencia entre lo que ocupa los titulares y lo que debería ocupar tu atención:
* Marco cualitativo de elaboración propia para efectos ilustrativos. No corresponde a un estudio estadístico.
Los cinco riesgos de la inteligencia artificial en empresas que sí importan hoy
1. IA en la sombra
Es el más común y el más ignorado. Tus empleados ya están usando ChatGPT, Gemini o cualquier otra herramienta gratuita para su trabajo diario — sin que tú lo sepas, sin permiso, y pegando información de la empresa en un chat público.
El contrato con un cliente. La base de datos de proveedores. El informe financiero del trimestre. Todo eso puede estar circulando en cuentas personales de servicios gratuitos, cuyos términos permiten usar esos datos para entrenar modelos.
2. Fuga de datos y cumplimiento legal
En Colombia rige la Ley 1581 de 2012 de protección de datos personales, vigilada por la Superintendencia de Industria y Comercio. Si un empleado sube datos personales de tus clientes a una herramienta de IA sin base legal para hacerlo, la responsable es tu empresa. No el empleado, no la herramienta.
Y la sanción no depende de si hubo intención.
3. Datos inventados que llegan a decisiones reales
Los modelos de lenguaje generan texto plausible, no necesariamente verdadero. Cuando alguien le pide un informe de mercado y lo entrega sin verificar, es perfectamente posible que ese documento llegue a una junta directiva con cifras que nunca existieron.
Este riesgo no se resuelve con mejor tecnología. Se resuelve con la regla de que ningún dato generado por IA se usa en una decisión sin verificación humana.
4. Dependencia de un solo proveedor
Si construiste todo tu proceso de atención al cliente sobre un único servicio de IA y esa empresa sube el precio, cambia sus términos o descontinúa el modelo que usabas, quedas atrapado. Ya pasó con modelos retirados que dejaron a empresas reescribiendo integraciones a la carrera.
5. Cero gobernanza interna
El riesgo que multiplica todos los anteriores: no tener una política escrita de quién puede usar qué herramienta, con qué información y bajo qué condiciones. La mayoría de PyMEs colombianas que ya usan IA a diario no tienen una sola línea escrita al respecto.
Checklist: gobernanza de IA para tu empresa
Hablar de riesgos de la inteligencia artificial en empresas sin proponer soluciones concretas es alarmismo. Esto es lo mínimo que debería tener cualquier empresa que ya usa IA:
Si quieres un marco más formal, el AI Risk Management Framework del NIST es el estándar internacional de referencia y es de acceso libre.
En resumen
Jacob Coxon puede tener razón o no sobre la superinteligencia. Esa discusión se va a resolver en la próxima década y ni tú ni yo la vamos a definir.
Lo que sí puedes definir es si tu empresa está usando estas herramientas con criterio o improvisando. Una política de una página, cuentas empresariales y la regla de verificar antes de publicar reducen los riesgos de la inteligencia artificial en empresas a un problema perfectamente manejable.
El titular apocalíptico se olvida en dos semanas. Los datos de tus clientes circulando en una cuenta gratuita, no.
En Olaciregui Studio implementamos plataformas con inteligencia artificial con la gobernanza y la seguridad incluidas desde el diseño, no como parche posterior. Si quieres saber cómo aplicar IA en tu empresa sin abrirle la puerta a estos riesgos, empieza por El Cotizador — es gratis.