Джефри Хинтън – кръстника на ИИ

Професор Джефри Хинтън е носител на Нобеловата награда за физика, 2024 г. и една от най-важните фигури в историята на машинното обучение. Неговата работа по алгоритъма за обратно разпространение на грешка (backpropagation) и участието му в разработването на AlexNet поставиха основите на „дълбокото учене“ – същото, което движи днешните системи като ChatGPT. 

Физиците въобще са голяма работа. Открили са и измислили какво ли не, включително Интернет и Изкуствения интелект 

„Създаваме същества по-умни от нас – и нямаме идея как да ги направим безопасни.“ Според него това ще се случи в рамките на 10 до 20 години – напълно реалистичен хоризонт според сегашното темпо на развитие на изкуствения интелект.

Хинтън обръща внимание на  superintelligence – интелект, надвишаващ човешкия по почти всички показатели: „Щом машините достигнат нашето ниво, те бързо ще го надминат. И тогава вече няма да можем да следим процеса.“

Текущото ниво на изкуствения интелект, според него, е удобно да се сравни с тигърче – малко, сладко, очарователно и още неопасно. „Всички харесват тигърчето – малко, сладко. Но то пораства. И ако не си сигурен, че няма да те убие – трябва да се тревожиш.“

Днешният AI може да изглежда контролиран, полезен, дори симпатичен, но когато достигне нивото на самостоятелна интелигентност и започне да се усъвършенства сам, ще е твърде късно да го укротим. Хинтън смята, че нямаме примери в историята, в които значително по-глупави същества успешно контролират по-интелигентни такива.

Именно затова суперинтелигентният AI не просто е предизвикателство – той е потенциална загуба на контрол над собствената ни съдба. Времето за обсъждане на моралната и техническа безопасност на AI не е в някой бъдещ момент – то е настоящето. „Може би сме обречени. Но ще е срамота да е така, защото не сме се опитали да променим нещата в наша полза.“