Anthropic anunció el 18 de septiembre un hito importante en su estrategia de seguridad en inteligencia artificial: la empresa de consultoría Accenture tendrá empleados trabajando dentro de Anthropic para revisar sus modelos y personal. Este es el primer paso concreto del plan del CEO Dario Amodei para ralentizar el desarrollo de IA de forma responsable.
La división de IA de Accenture, Faculty, se encargará de evaluación y red-teaming de modelos, evaluaciones de alineación y pruebas de salvaguardas. Lo inusual es el nivel de acceso: los evaluadores externos tendrán acceso comparable al de un empleado, pudiendo observar el entrenamiento de modelos, monitorear decisiones de despliegue e interactuar directamente con el personal.
Ambas empresas invertirán al menos 1,000 millones de dólares en el proyecto durante los próximos cinco años. La inversión bilateral refleja la seriedad de una iniciativa que representa un cambio en cómo la industria evalúa sus propios sistemas. La elección de Accenture sorprendió a observadores de IA, y las acciones de la consultora subieron 8% después de horas.
Para empresas y gobiernos en América Latina que adoptan soluciones de IA, este acuerdo tiene implicaciones prácticas: establece un precedente de evaluación externa independiente de sistemas de inteligencia artificial. Anthropic destacó la experiencia práctica de Accenture en desplegar IA para grandes corporaciones y agencias gubernamentales como una ventaja clave, lo que podría traducirse en herramientas más confiables para negocios y administración pública regional.
