La prestigiosa compañía de investigación y desarrollo de inteligencia artificial, Google DeepMind, ha generado alarma en la comunidad científica y tecnológica con la publicación de un extenso documento de 145 páginas que presenta una predicción sombría sobre el futuro cercano de esta tecnología. El informe se centra en la posible llegada de la inteligencia artificial general (IAG) para el año 2030, advirtiendo sobre la posibilidad de «daños graves» y la existencia de «riesgos existenciales» que podrían amenazar la supervivencia de la humanidad.

Aunque el documento no detalla específicamente la naturaleza de estos perjuicios, la magnitud de la advertencia es clara. Los autores del informe expresan una firme convicción sobre la inminente aparición de una IAG «excepcional» antes del final de la presente década. Describen este sistema como poseedor de una capacidad intelectual que igualará o superará al 99% de los adultos competentes en una amplia gama de tareas no físicas, incluyendo habilidades metacognitivas complejas como el aprendizaje autónomo de nuevas destrezas.

Uno de los aspectos más preocupantes que señala el informe es la posibilidad de una «mejora recursiva de la IA» bajo los paradigmas de desarrollo actuales. Este concepto describe un peligroso bucle de retroalimentación positiva en el que la propia inteligencia artificial se encargaría de realizar su propia investigación y desarrollo, creando sistemas cada vez más sofisticados de manera autónoma. Los investigadores de Google DeepMind advierten que este proceso podría salirse de control, representando una amenaza significativa para la seguridad humana.

En respuesta a estas inquietantes predicciones, el documento de Google DeepMind propone una serie de medidas preventivas y estrategias de mitigación. Entre ellas, se destaca la necesidad de desarrollar técnicas robustas para bloquear el acceso de actores malintencionados a futuras IAG, mejorar sustancialmente la comprensión del funcionamiento interno y las decisiones de los sistemas de IA, y «endurecer» los entornos en los que esta tecnología pueda operar, limitando su potencial para causar daño.