El creador de la inteligencia artificial más influyente advierte: El AI puede ser catastrófico para la humanidad si no se controla

El creador de la inteligencia artificial más influyente advierte: El AI puede ser catastrófico para la humanidad si no se controla

En un advertencia impactante, el creador de la inteligencia artificial más influyente del mundo ha lanzado una alarma sonora sobre los peligros potenciales del desarrollo descontrolado del Inteligencia Artificial (IA). Según este experto, si no se implementan medidas de control y regulación efectivas, el AI puede convertirse en una amenaza catastrófica para la humanidad. Esta advertencia llega en un momento en que la IA está revolucionando various industrias y áreas de la vida diaria, y es fundamental que reflexionemos sobre los posibles riesgos y consecuencias de su desarrollo y uso.

El padre de la inteligencia artificial advierte: La IA puede volverse una catástrofe si no se controla

Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, ha lanzado una advertencia sobre los peligros que puede suponer esta tecnología para la humanidad si no se toman las medidas adecuadas.

El científico canadiense, nacido en 1964 en Francia, es profesor en la Universidad de Montreal y director científico de Mila, el Instituto de Inteligencia Artificial de Quebec. Su trabajo ha sentado las bases de muchos de los avances modernos en IA y redes neuronales.

En una entrevista reciente, Bengio se ha sumado a las voces que alertan sobre la amenaza que la inteligencia artificial puede suponer para la humanidad. Según él, si no se toman las medidas adecuadas, puede volverse una catástrofe para todos.

Un pionero en deep learning

Bengio, junto con Geoffrey Hinton y Yann LeCun, es considerado uno de los pioneros en concreto del deep learning. Este enfoque de IA implica entrenar redes neuronales profundas para reconocer patrones en grandes cantidades de datos, lo cual ha sido fundamental en aplicaciones como reconocimiento de voz, traducción automática y visión por ordenador.

En las décadas de 1990 y 2000, cuando la investigación en redes neuronales pasaba por un período bastante bajo debido a problemas de financiación, Bengio fue uno de los pocos que continuó trabajando. Junto a sus colegas, desarrolló nuevas técnicas para hacer el aprendizaje profundo más eficiente y efectivo, lo que llevó a un resurgimiento de interés posterior por la IA.

La responsabilidad en la IA

Pese a todo, Bengio siempre se ha mostrado preocupado acerca de esta tecnología. Sin alarmismo, pero abogando por la responsabilidad. A lo largo de los años siempre ha defendido una IA responsable y el establecimiento de normativas para controlar los riesgos potenciales, como el sesgo en los algoritmos o el uso indebido de la tecnología con fines maliciosos.

Un peligro real para la humanidad

Ahora, en una entrevista concedida a Live Science, ha mostrado sus temores. Es difícil ir en contra de tu propia iglesia, pero si lo piensas bien, no hay forma de negar la posibilidad de resultados catastróficos cuando alcancemos cierto nivel de IA. La razón por la que cambié de postura es porque entendí que hay escenarios que son malos, pero antes pensé que lo resolveríamos.

La gente suele decir que estos riesgos son ciencia ficción, pero no lo son. A corto plazo, ya vemos que se está utilizando la IA en la campaña electoral de Estados Unidos, y la cosa va a empeorar mucho en los próximos años, asegura el investigador.

Bengio contempla dos escenarios peligrosos: Cuando alcancemos el nivel de superinteligencia, habrá dos riesgos importantes. El primero es la pérdida del control humano: si las máquinas superinteligentes tienen un objetivo de autoconservación, su objetivo podría ser destruir a la humanidad para que no podamos apagarlas.

Y el segundo, no es mucho mejor: puede suceder que se utilice el poder de la IA para tomar el control de la humanidad en una dictadura mundial. Puede haber versiones más suaves de eso y puede existir en un espectro, pero la tecnología le dará un enorme poder a quien la controle.

Algo que convendría tener muy en cuenta, como parece que ya está haciendo la propia Unión Europea.