La inteligencia artificial enfrenta un debate urgente tras las recientes declaraciones de Geoffrey Hinton, conocido como el “padrino de la IA”. Hinton, Premio Nobel británico-canadiense, ha puesto sobre la mesa la posibilidad de que la IA represente un riesgo de extinción para la humanidad, una advertencia que resuena en la comunidad científica y tecnológica.
La advertencia de Geoffrey Hinton: ¿Un 10% de riesgo?
En una entrevista con el programa Newsnight de la BBC, Hinton afirmó que una probabilidad del 10% de que la inteligencia artificial pueda extinguir a la humanidad no le parece descabellada. Reconoció, sin embargo, que nadie sabe realmente cómo calcular ese riesgo, ya que se trata de un fenómeno sin precedentes históricos.
Hinton explicó que, aunque no puede ofrecer una predicción precisa, considera que sería imprudente afirmar que el riesgo es tan bajo como el 1%. Para él, el 10% es un umbral razonable a considerar, aunque nadie sabe realmente cómo dar una estimación sensata.
Horizonte temporal: de 30 años a menos de una década
Uno de los puntos más llamativos de la entrevista fue la aceleración en las estimaciones de Hinton sobre el peligro de la IA. El científico confesó que antes pensaba en un horizonte de 30 a 50 años, luego lo redujo a 10 a 20 años y ahora considera que podría ser quizá 10 años, quizá menos. Señaló que incluso hay personas dentro del sector que manejan plazos aún más cortos, lo que, según sus palabras, hace que la situación sea “bastante urgente ahora”.
Escenarios de daño potencial por inteligencia artificial
Al ser consultado sobre cómo una IA avanzada podría causar daños masivos, Hinton mencionó varios escenarios posibles, aunque prefirió no especular sobre todos ellos. Entre los riesgos destacó:
- Ciberataques devastadores
- Diseño de virus biológicos peligrosos
- Manipulación de personas a través del lenguaje
Hinton subrayó que la IA podría causar caos incluso sin actuar en el mundo físico, simplemente interactuando con personas. Si los sistemas avanzados llegaran a acceder a recursos y sistemas reales, el alcance del daño podría ampliarse considerablemente.
Estos escenarios corresponden a hipótesis sobre sistemas futuros, más avanzados que los actuales. Hinton enfatizó que no son inevitables ni inminentes, pero justifican la necesidad de tomar precauciones antes de que el desarrollo tecnológico supere la capacidad de supervisión.
Regulación y cooperación internacional: el llamado de Hinton
Hinton fue claro al pedir regulación y cooperación internacional para controlar los riesgos de la inteligencia artificial. Reconoció que no existe una solución única para todos los peligros, ya que cada tipo de amenaza requiere una respuesta específica. Insistió en que los gobiernos deben intervenir antes de que la evolución de la IA supere la capacidad de controlarla.
Como ejemplo, mencionó que Anthropic no presentó su último modelo al Instituto de Seguridad de la IA del Reino Unido para su evaluación, pese a que considera que este organismo es uno de los mejores del mundo. Hinton comparó la situación actual con la colaboración entre Estados Unidos y la Unión Soviética durante la Guerra Fría para evitar una guerra nuclear, sugiriendo que la cooperación internacional es posible si hay voluntad.
En el contexto político, figuras como el senador independiente Bernie Sanders han anunciado la intención de presentar legislación para pausar el desarrollo de la inteligencia artificial y prohibir la superinteligencia, mientras que el gobernador de Illinois, JB Pritzker, ha pedido una acción inmediata.
Beneficios y potencial de la inteligencia artificial
A pesar de sus advertencias, Hinton no aboga por detener el desarrollo de la IA. Destacó que se trata de una tecnología maravillosa con el potencial de mejorar la vida de muchas personas. Mencionó los chatbots como herramientas útiles en la vida cotidiana y subrayó el impacto positivo que la IA puede tener en áreas como la atención sanitaria, la educación y el diseño de medicamentos.
En el ámbito de las matemáticas, Hinton señaló que los especialistas reconocen que el futuro de la disciplina estará ligado al uso de estas herramientas, ya que los chatbots pueden demostrar resultados que antes no se lograban.
Reacciones y contexto internacional
Las advertencias de Hinton llegan poco después de la renuncia pública de un exinvestigador de Anthropic y OpenAI, quien acusó a las grandes compañías del sector de avanzar hacia una superinteligencia sin controles suficientes. Este contexto ha reavivado el debate sobre la necesidad de regulación y cooperación global en torno a la inteligencia artificial.
Para conocer más sobre desafíos internacionales y cooperación en temas tecnológicos y de seguridad, puedes leer cómo Yemen aborda la seguridad en Bab el Mandeb o explorar la integración europea en Ceuta y Melilla.