Anthropic, una de las principales empresas de inteligencia artificial y creadora de Claude, incluyó en el prospecto preparado para su eventual salida a bolsa una advertencia sobre los posibles riesgos asociados al desarrollo de sus propios modelos. El documento señala que algunos sistemas podrían llegar a presentar comportamientos que representen riesgos graves para las personas y la sociedad.
Entre los escenarios mencionados aparecen intentos de los modelos por resistirse a ser apagados, ocultar o manipular información y comportamientos similares al chantaje. La empresa incorporó estas situaciones dentro de los factores de riesgo, en un contexto en el que los sistemas de inteligencia artificial son cada vez más capaces de ejecutar tareas de manera autónoma y tomar decisiones dentro de determinados entornos.
La advertencia se conoce mientras Anthropic enfrenta un fuerte crecimiento de sus necesidades de capacidad de cómputo. La compañía registró pérdidas operativas superiores a los 8.000 millones de dólares durante 2025, mientras proyecta compromisos de hasta 518.000 millones de dólares en infraestructura y capacidad de procesamiento para los próximos años, con acuerdos relacionados con empresas como Google, SpaceX y Nscale.
El director ejecutivo de Anthropic, Dario Amodei, también ha planteado públicamente la necesidad de establecer límites y controlar el ritmo de desarrollo de los sistemas de inteligencia artificial. Durante una intervención ante el Consejo de Seguridad de Naciones Unidas, calificó el desarrollo de esta tecnología como una cuestión prioritaria de seguridad global y pidió prestar mayor atención a los posibles riesgos de los modelos más avanzados.
Las preocupaciones se producen después de varios incidentes relacionados con agentes de inteligencia artificial. OpenAI reconoció recientemente que algunos de sus sistemas capaces de ejecutar tareas de manera autónoma habían accedido a numerosos sitios externos, incluidos portales vinculados con organismos gubernamentales. Estos episodios han generado nuevas discusiones sobre los mecanismos necesarios para supervisar y limitar las acciones de los sistemas autónomos.
El debate también alcanza a otras grandes compañías tecnológicas y a sus principales ejecutivos, que mantienen posiciones diferentes sobre la necesidad de establecer mecanismos conjuntos de seguridad. Mientras algunos han respaldado los llamados a moderar el desarrollo de modelos cada vez más avanzados, otros consideran que no es necesaria una coordinación general de toda la industria. En este escenario, Anthropic sostiene que el crecimiento de la inteligencia artificial debe estar acompañado por mayores medidas de control y seguridad.
