Meredith Whittaker: los temores catastróficos sobre la IA carecen de fundamento científico

Whittaker afirma que "el riesgo es muy real", pero ubica el peligro inmediato en el uso negligente de la tecnología, no en escenarios apocalípticos. La revista Time la incluyó entre las personas más influyentes en el campo de la IA.

Como ejemplo, cita un incidente reportado por CNN en el que un chatbot utilizado por la inteligencia estadounidense habría inventado información sobre un buque chino que transportaba material nuclear, lo que supuestamente llevó a Estados Unidos a preparar una respuesta militar. "Estuvimos a punto de entrar en guerra con China", dijo a la BBC. "Un sistema que produce información errónea y que casi nos lleva a una guerra con China no debería considerarse superinteligente bajo ningún concepto".

En el plano de la rendición de cuentas, Whittaker vincula el Proyecto Maven con un ataque estadounidense contra una escuela en Irán, al alegar que se basó en ese sistema y en inteligencia obsoleta. Palantir respondió que "no había pruebas de que el software de Palantir tuviera la culpa en esta terrible tragedia". Su director para el Reino Unido y Europa, Louis Mosley, declaró a la BBC que "siempre hay una persona involucrada, por lo que siempre hay una persona que toma la decisión final".

Sobre el cifrado, Whittaker calificó el enfoque del gobierno británico como "un régimen sin precedentes de controles de comunicación e información", y afirmó que Signal abandonaría el mercado de cualquier país que le obligara a debilitar su cifrado.