¿Qué causa las "alucinaciones" de la IA? ¿Es posible superarlas?
¿Nos vuelve la IA "estúpidos"?
La idea de la superinteligencia, según sus defensores, representa la cúspide del progreso, ya que podrá resolver problemas que la humanidad ha eludido durante mucho tiempo: erradicar enfermedades, revertir los efectos del cambio climático, desentrañar los misterios del universo y aumentar la eficiencia en todos los ámbitos laborales. Algunos describen esta superinteligencia como "la última invención de la humanidad", porque inventará todo lo demás que necesitamos.
Pero lo que preocupa a los firmantes de la carta y a otros es que si desarrollamos máquinas más eficientes que nosotros en todos los aspectos de la vida, probablemente caeremos bajo su control. En teoría, si la superinteligencia descubre que los humanos son un obstáculo para alcanzar sus objetivos, trabajará para consolidar lo que necesita: poder y recursos para imponer su dominio y quizás incluso eliminar a la humanidad.
Max Winga, analista de políticas de Control AI, una organización sin fines de lucro que conciencia sobre los riesgos existenciales de la inteligencia artificial, declaró a BBC Arabic que «la superinteligencia representará una amenaza para la existencia de la humanidad porque nadie, ni siquiera los ingenieros que la desarrollan rápidamente, sabe cómo controlar una IA más inteligente que nosotros».
