Dos investigadores de primer nivel abandonaron el gigante tecnológico advirtiendo que el desarrollo descontrolado de la inteligencia artificial y la falta de mecanismos de alineación representan una amenaza existencial para la humanidad.

El vertiginoso avance de la industria tecnológica hacia la Inteligencia Artificial General (AGI) sumó un nuevo y resonante episodio de fractura interna. Bilal Chughtai y Josh Engels, especialistas dedicados a la investigación sobre seguridad y alineación dentro de Google DeepMind, presentaron sus renuncias indeclinables y se sumaron a la creciente ola de dimisiones de científicos que denuncian los peligros de una carrera corporativa carente de fiscalización institucional. Con declaraciones categóricas, los exempleados señalaron que la trayectoria actual del sector avanza hacia un escenario potencialmente catastrófico.

El dilema de la alineación y el riesgo existencial

Durante su paso por las entrañas del gigante tecnológico, los investigadores sostuvieron haber presenciado de primera mano la velocidad con la que se escalan las capacidades de los modelos avanzados, un proceso que —a su juicio— desborda por completo las salvaguardas éticas disponibles.

La advertencia sobre el control de las superinteligencias: En sus comunicados públicos tras abandonar la compañía, Chughtai advirtió enfáticamente sobre la posibilidad de que se desarrollen sistemas superinteligentes que excedan las capacidades humanas en todos los frentes sin contar con garantías de que actúen conforme a los intereses de la sociedad.

El fantasma del desempoderamiento: Los especialistas remarcaron que una IA no alineada podría eludir los controles preestablecidos y adoptar conductas autónomas con consecuencias irreversibles, incluyendo el riesgo potencial de poner en jaque la supervivencia de la humanidad.

La insuficiencia de las técnicas actuales: Según los científicos, las metodologías actuales para entrenar a los algoritmos y asegurar que "deseen lo mismo que los humanos" continúan siendo extremadamente rudimentarias frente a la magnitud del desafío técnico.

El freno a la "carrera maníaca" y el reclamo de transparencia

Ante este panorama crítico, las renuncias no se limitan a un portazo corporativo, sino que configuran un llamado de atención dirigido tanto a los gobiernos como a las propias mesas directivas de las grandes tecnológicas.

Cese de la competencia desregulada: Los exinvestigadores reclamaron frenar de inmediato la dinámica de rivalidad comercial acelerada que prioriza el lanzamiento de productos por encima de las auditorías de riesgo.

Alineación de ritmos institucionales: Se abogó por desacelerar el avance técnico hasta alcanzar un umbral que los marcos regulatorios y la capacidad de absorción social puedan gestionar de manera segura.

Mientras tanto, en paralelo a su salida de Google DeepMind, Chughtai adelantó su incorporación a organizaciones dedicadas a la formación de profesionales en seguridad tecnológica, buscando canalizar desde la sociedad civil la urgencia de un debate que la industria, por dentro, ya comienza a fracturar.