La inteligencia artificial (IA) está avanzando de manera vertiginosa y sus progresos parecen no tener límites. Uno de los debates más recurrentes gira en torno a si las máquinas llegarán a igualar la complejidad y habilidades del cerebro humano.
En este escenario, Google, una de las compañías líderes en innovación tecnológica y desarrollo de IA, dio a conocer recientemente una predicción que ha captado la atención mundial.
A través de su división especializada en inteligencia artificial, DeepMind, y en su informe técnico titulado “Un enfoque para la seguridad y protección técnica de la AGI”, la empresa expuso su estimación sobre el momento en que esta tecnología podría equiparar o incluso superar las capacidades cognitivas del ser humano.
El informe presenta sus proyecciones sobre el futuro de la inteligencia artificial general (AGI), señalando que no solo es probable que la IA alcance un nivel de cognición similar al humano en la próxima década, sino que, de no establecerse controles adecuados, esta inteligencia podría incluso superar a los humanos en la ejecución de tareas complejas.
Ante el acelerado ritmo de los avances, Google alerta sobre los riesgos potenciales y enfatiza la importancia de establecer medidas de seguridad y considerar las consecuencias éticas que este progreso conlleva.
Por su parte, Demis Hassabis, CEO de DeepMind, manifestó recientemente en una conferencia en Londres que la AGI podría estar a tan solo entre cinco y diez años de lograr igualar las capacidades cognitivas de las personas.
De acuerdo con Hassabis, el ritmo de los avances en inteligencia artificial en los últimos años ha sido notable, aunque todavía persisten desafíos importantes. Resaltó que, si bien se han logrado progresos relevantes, aún quedan numerosos problemas técnicos y conceptuales por resolver para que los sistemas de IA logren “entender y adaptarse por completo al contexto del mundo real”, un elemento crucial para que la AGI sea verdaderamente funcional y flexible.
El informe de Google, enfocado en los avances y retos de la inteligencia artificial general (AGI), pone de relieve diversos riesgos asociados con su evolución. Aunque los progresos son evidentes, el documento advierte que temas como la seguridad, el control y la alineación con los valores humanos deben ser abordados con extrema precaución.
Los expertos de Google señalaron varios peligros potenciales que podrían tener un profundo impacto en distintas áreas de la sociedad, desde la ciberseguridad hasta la economía. Estos riesgos comprenden tanto desafíos técnicos como sociales, y su adecuada gestión será crucial para evitar consecuencias negativas inesperadas durante el desarrollo de la AGI.
Uno de los principales riesgos destacados es el posible uso inapropiado de la AGI. La autonomía de los sistemas de inteligencia artificial podría ser explotada con fines maliciosos, como la creación de software dañino, la manipulación de contenidos, actividades de espionaje o prácticas de ingeniería social.
Asimismo, la implementación de AGI en ciberataques automatizados podría incrementar de manera significativa las amenazas digitales existentes, comprometiendo la seguridad de personas, empresas e infraestructuras críticas en todo el mundo. Este escenario no solo pondría en jaque los sistemas tecnológicos actuales, sino que también agravaría las vulnerabilidades estratégicas.
Otro de los peligros señalados es la desalineación, un fenómeno que ocurre cuando la AGI, aunque no tenga intenciones hostiles, actúa de forma imprevista o contraria a los intereses humanos, ya sea por malinterpretaciones de las instrucciones recibidas o por diferencias en los valores incorporados en su programación.
