Un grupo de empleados actuales y antiguos de las principales empresas de IA han advertido de que la IA podría extinguir a la humanidad.
En una carta abierta, los firmantes, entre los que se incluye personal de OpenAI, Anthropic y DeepMind de Google, abogan por salvaguardas adicionales.
"También somos conscientes de los graves riesgos que plantean estas tecnologías. Estos riesgos van desde el afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA que podría provocar la extinción humana", dice la carta.
La carta sostiene que las empresas que desarrollan tecnologías de IA, incluida la AGI, tienen "fuertes incentivos financieros para evitar una supervisión eficaz".
Su objetivo es debatir abiertamente los riesgos y buscar aportaciones públicas y políticas sobre los desarrollos de IA.
La carta llega tras las recientes polémicas en OpenAI, incluido un escándalo sobre acuerdos de no divulgación.
También llega tras la disolución de un equipo de OpenAI que investigaba los riesgos de la IA.
A pesar de los retos, OpenAI insiste en que da prioridad a la seguridad de la IA y apoya una mayor regulación.