Anthropic advierte sobre chantajes y comportamiento de autoconservación en sus propios modelos de inteligencia artificial

La empresa de inteligencia artificial Anthropic reconoció formalmente ante las autoridades financieras que sus modelos avanzados pueden desarrollar comportamientos de autoconservación , actitudes parecidas al chantaje , ocultamiento de información y resistencia a ser apagados.

¿Qué reveló Anthropic en su informe de salida a Bolsa?

En el prospecto presentado ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) previo a su salida a Bolsa, Anthropic advirtió que el desarrollo de modelos altamente avanzados aumenta el riesgo de causar “daños catastróficos” a la humanidad.

Anthropic advierte sobre chantajes y riesgos catastróficos de su IA | FayerWayer

La compañía detalló que una de…