Entre los firmantes se encontraban el premio Nobel de Física Geoffrey Hinton y el informático Yoshua Bengio, a menudo descritos como "los padres" de la inteligencia artificial; el cofundador de Apple, Steve Wozniak; el príncipe Harry y su esposa Meghan, duquesa de Sussex; Steve Bannon, exasesor del presidente Trump; y el padre Paolo Benanti, asesor del Vaticano en inteligencia artificial.
Entonces, ¿qué es exactamente la "superinteligencia"? ¿Por qué este concepto preocupa a tantos científicos y pensadores de todo el mundo? ¿Y cómo se puede prohibir? Superinteligencia: ¿Qué significa?
La idea de una entidad artificial o máquina que se asemeja o supera a los humanos tiene sus raíces en la mitología griega antigua. Sin embargo, al hablar de la máquina en su sentido más reciente durante la Revolución Industrial, muchas fuentes indican que el pensador británico Samuel Butler fue el primero en plantear la idea de que las máquinas evolucionarían para superar la inteligencia humana, en un artículo titulado "Darwin entre máquinas", publicado en 1863.
Las advertencias al respecto se repitieron en el siglo XX. En 1965, por ejemplo, el matemático británico Irving John Goode utilizó el término "máquina ultrainteligente" para describir una máquina con capacidades superiores a las de la mente humana, capaz de diseñar otras máquinas, lo que conduciría a lo que Goode describió como una "explosión de inteligencia".
Pero el primero en utilizar el término "superinteligencia" y definirlo fue el filósofo sueco Nick Boström en un artículo científico publicado en 1997 titulado "¿Cuánto falta para la superinteligencia?".
Boström define la superinteligencia como "una inteligencia que supera con creces las mentes humanas más brillantes en prácticamente todos los ámbitos, incluyendo la innovación científica, la sabiduría general y las habilidades sociales... Puede adoptar la forma de una computadora digital o una red de computadoras interconectadas, tejido cortical cultivado en laboratorio o algo completamente distinto. Esta definición deja abierta la pregunta de si dicha superinteligencia es consciente y posee experiencias subjetivas".
En su libro "Superinteligencia: Caminos, Peligros y Estrategias" (2014), Boström advierte sobre un escenario en el que los robots de inteligencia artificial se vuelven más inteligentes que los humanos y se desarrollan tan rápidamente que escapan al control humano.
