Кръстникът на изкуствения интелект предупреди, че ChatGPT ще стане по-интелигентен от човека

„Не се заблуждавайте, в момента сме в бърз влак и се тревожим, че един ден той ще започне да строи свои собствени релси“, каза шефът на Гугъл Сундар Пичай

Човек, смятан за кръстник на изкуствения интелект (ИИ), напусна работата си, предупреждавайки за нарастващите опасности от развитието в тази област.

75-годишният Джефри Хинтън обяви оставката си от Google в изявление за Ню Йорк Таймс, като каза, че вече съжалява за работата си. Той каза пред BBC, че някои от опасностите от AI чатботовете са „доста страшни“.

„В момента те не са по-интелигентни от нас, доколкото мога да преценя. Но мисля, че скоро може да са.“

Д-р Хинтън също призна, че възрастта му е повлияла на решението му да напусне технологичния гигант, като каза пред BBC: „Аз съм на 75, така че е време да се пенсионирам“.

Пионерските изследвания на д-р Хинтън върху невронните мрежи проправиха пътя за настоящите ИИ системи като ChatGPT. В областта на изкуствения интелект невронните мрежи са системи, които са подобни на човешкия мозък по начина, по който учат и обработват информация. Те позволяват на изкуствения интелект да се учи от опита, както би направил човек. Това се нарича дълбоко обучение.

Британско-канадският когнитивен психолог и компютърен учен каза пред BBC, че чатботовете скоро могат да надминат нивото на информация, което човешкият мозък притежава.

„В момента това, което виждаме, е, че неща като GPT-4 засенчват човек по отношение на общите познания, които има, и го засенчват сериозно.

„И като се има предвид темпът на напредък, очакваме нещата да се подобрят доста бързо. Така че трябва да се тревожим за това.“

В статията на Ню Йорк Таймс д-р Хинтън говори за „лоши актьори“, които биха се опитали да използват ИИ за „лоши неща“.

Когато бе помолен от BBC да разясни това, той отговори: „Това е просто един вид най-лош сценарий, един вид кошмарен сценарий.“

„Можете да си представите, например, някой лош актьор като руския президент Владимир Путин да реши да даде на роботите способността да създават свои собствени подцели.“

Ученият предупреди, че това в крайна сметка може да „създаде подцели като „Трябва да получа повече сила““.

„Ние сме биологични системи, те са цифрови системи“

Той добави: „Стигнах до извода, че видът интелект, който развиваме, е много различен от интелекта, който имаме.

„Ние сме биологични системи, а това са цифрови системи. И голямата разлика е, че с цифровите системи имате много копия на един и същи набор от тежести, един и същ модел на света.

„И всички тези копия могат да учат поотделно, но да споделят знанията си незабавно. Така че все едно имате 10 000 души и всеки път, когато един човек научи нещо, всички автоматично го знаят. И това е начинът, по който тези чатботове могат да знаят много повече от всеки един човек.“

Мат Клифърд, председател на Агенцията за напреднали изследвания и изобретения на Обединеното кралство, говорейки в лично качество, каза пред BBC, че съобщението на д-р Хинтън „подчертава скоростта, с която възможностите на AI се ускоряват“.

„Има огромна полза от тази технология, но е от съществено значение светът да инвестира сериозно и спешно в безопасността и контрола на ИИ“, каза той.

Д-р Хинтън се присъединява към нарастващ брой експерти, които изразиха загриженост относно ИИ – както скоростта, с която се развива, така и посоката, в която върви.

През март отворено писмо – подписано от десетки хора в областта на изкуствения интелект , включително технологичния милиардер Илон Мъск – ​​призова за спиране на всички разработки, по-напреднали от текущата версия на AI chatbot ChatGPT, така че да могат да бъдат проектирани стабилни мерки за безопасност и изпълнени.

Йошуа Бенгио, друг така наречен кръстник на ИИ, който заедно с д-р Хинтън и Ян Лекун спечелиха наградата Тюринг през 2018 г. за работата си по задълбочено обучение, също подписа писмото.

Бенгио написа, че именно поради „неочакваното ускорение“ в системите с изкуствен интелект „трябва да направим крачка назад“.

Но д-р Хинтън каза пред BBC, че „в по-краткосрочен план“ смята, че AI ще донесе много повече ползи, отколкото рискове, „така че не мисля, че трябва да спираме да разработваме тези неща“, добави той.

Шефът на Google Сундар Пичай каза в скорошно интервю, че дори той не разбира напълно всичко, което прави неговият AI чатбот, Bard. „Не се заблуждавайте, в момента сме в бърз влак и се тревожим, че един ден той ще започне да строи свои собствени релси.“