OpenAI, Anthropic y Google DeepMind trabajan en la creación de un mecanismo conjunto para supervisar los riesgos asociados con el desarrollo de sistemas avanzados de inteligencia artificial (IA), en medio de la preocupación sobre la seguridad y el comportamiento autónomo de los modelos más avanzados.

Este martes se dio a conocer que las tres compañías han mantenido conversaciones durante varias semanas para coordinar esfuerzos en materia de seguridad de la IA. La iniciativa buscaría establecer mecanismos de evaluación y vigilancia que permitan detectar riesgos antes de que los sistemas sean desplegados a gran escala.

La propuesta habría tomado como referencia modelos de supervisión utilizados en otros sectores, como la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA). Una de las posibilidades planteadas es que las propias empresas tecnológicas contribuyan a financiar el organismo y que éste cuente con especialistas capaces de realizar pruebas técnicas a los modelos de IA.

Lo anterior, en el marco de pronunciamientos de desarrolladores y organismos mundiales sobre los riesgos a la población.

Anthropic, por ejemplo, informó que entre diciembre de 2025 y agosto de 2026 detectó y desarticuló operaciones en las que actores maliciosos utilizaron Claude para actividades relacionadas con ciberataques, vigilancia, fraude, operaciones de influencia y otros usos ilícitos.

Es importante señalar que, en 2023, OpenAI, Anthropic, Google y Microsoft crearon el Frontier Model Forum, una organización enfocada en investigación de seguridad, evaluaciones técnicas, mejores prácticas y mecanismos para compartir información sobre riesgos de los modelos de frontera.

Sin embargo, el nuevo mecanismo planteado tendría un alcance adicional, al buscar una estructura de supervisión más específica frente a los riesgos que puedan surgir conforme aumenten las capacidades de los sistemas de IA.