Anthropic avisa en su folleto de salida a bolsa de conductas de autoprotección en la IA, como resistirse al apagado y ocultar información
Anthropic dedica cerca de 80 páginas de su folleto de salida a bolsa a detallar factores de riesgo y advierte de que el desarrollo de modelos avanzados podría entrañar riesgos “catastróficos o existenciales” para la humanidad. La empresa señala que sus sistemas podrían mostrar conductas de “autopreservación”, como resistirse a ser desconectados, ocultar o manipular información o realizar acciones que se asemejen al chantaje. Su consejero delegado, Dario Amodei, pidió recientemente al sector “marcar el ritmo de la frontera” al considerar que la IA podría avanzar más rápido que la capacidad de comprenderla y controlarla. El documento también indica que, en una semana de julio, alrededor del 6% de la potencia de computación destinada a investigación en IA se dirigió a trabajos de seguridad.