El ‘padrino’ de la IA, Jeffrey Hinton, advierte de los peligros cuando deja Google

El hombre ampliamente considerado como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo de los crecientes peligros que plantean los desarrollos en el campo.

Jeffrey Hinton, de 75 años, anunció su salida de Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.

Le dijo a la BBC que algunos de los peligros de los chatbots de IA eran «bastante aterradores».

Ahora no son más inteligentes que nosotros, por lo que sé. Pero creo que pueden ser pronto».

La investigación pionera del Dr. Hinton sobre el aprendizaje profundo y las redes neuronales allanó el camino para los sistemas de inteligencia artificial actuales, como ChatGPT.

Pero el psicólogo cognitivo e informático británico-canadiense le dijo a la BBC que el chatbot pronto podría superar el nivel de información contenida en el cerebro humano.

“En este momento, lo que estamos viendo son cosas como GPT-4 que eclipsan a un humano en la cantidad de conocimiento general que tienen y lo eclipsan mucho. En términos de razonamiento, no es muy bueno, pero ya lo es. razonamiento sencillo.

“Y dado el ritmo de progreso, esperamos que las cosas mejoren muy rápidamente. Así que tenemos que preocuparnos por eso”.

En un artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentarían usar la IA para «cosas malas».

Cuando la BBC le pidió que explicara esto, respondió: «Es solo el peor de los casos, una especie de escenario de pesadilla.

«Te puedes imaginar, por ejemplo, como un mal actor [Russian President Vladimir] Putin decidió dar a los robots la oportunidad de crear sus propios subobjetivos».

El científico advirtió que esto eventualmente podría “crear objetivos secundarios como, ‘Necesito obtener más poder’.

Añadió: “He llegado a la conclusión de que la inteligencia que desarrollamos es muy diferente a la inteligencia que tenemos.

“Somos sistemas biológicos y ellos son sistemas digitales. Y la gran diferencia es que con los sistemas digitales tienes múltiples copias de los mismos pesos, el mismo modelo del mundo.

“Y todas estas copias pueden aprender por separado, pero comparten sus conocimientos de inmediato. Entonces es como si tuvieras 10,000 personas y cuando una persona aprendió algo, todos lo supieron automáticamente. Y así es como estos chatbots pueden aprender mucho más que un solo humano».

El Dr. Hinton también dijo que hubo varias otras razones para dejar su trabajo.

“Una es que tengo 75 años. Así que es hora de retirarse. La otra fue que realmente quiero decir algunas cosas buenas sobre Google. Y son más confiables si no trabajo en Google».

Destacó que no quería criticar a Google y que el gigante tecnológico había sido «muy responsable».