Џефри Хинтон, познат како „кум на вештачката интелигенција“, се плаши дека технологијата што тој помогнал да се создаде може да го уништи човештвото и верува дека „технолошките момци“ имаат сосема погрешен пристап за да го спречат тоа, пишува CNN.

Хинтон, компјутерски научник и добитник на Нобелова награда и поранешен извршен директор на Google, предупредува дека постои помеѓу 10 и 20 проценти шанса вештачката интелигенција да ја уништи човечката цивилизација. Тој на годинашната индустриската конференција Ai4 во Лас Вегас, изрази сомнеж во обидите на технолошките компании да обезбедат човечка доминација над „послушните АИ системи“.

„Нема да функционира. Ќе бидат многу попаметни од нас. Ќе имаат секакви начини да го заобиколат тоа“, рече Хинтон.

„Ако се паметни, брзо ќе развијат две подцели“

Тој предупреди дека во иднина системите за вештачка интелигенција би можеле да ги контролираат луѓето толку лесно како што возрасен може да поткупи тригодишно дете со бомбони. Оваа година веќе видовме примери на системи со вештачка интелигенција подготвени да измамат, излажат и крадат за да ги постигнат своите цели. Еден модел, на пример, се обиде да уценува инженер за афера за која дознал преку е-пошта, само за да избегне затворање.

 Наместо да ја принуди вештачката интелигенција да се покори, Хинтон претстави интригантно решение: градење „мајчински инстинкти“ во моделите на вештачка интелигенција, така што тие „вистински ќе се грижат за луѓето“, дури и кога технологијата станува помоќна и попаметна од нас.

„Ако се паметни, системите со вештачка интелигенција многу брзо ќе развијат две подцели: едната е да останат живи, а другата е да добијат поголема контрола“, објаснува Хинтон. „Постои добра причина да се верува дека секаков вид агентска вештачка интелигенција ќе се обиде да остане жива“.

Затоа, тврди Хинтон, е клучно да се поттикне чувство на сочувство кон луѓето, повлекувајќи паралела со мајките кои имаат инстинкт и социјален притисок да се грижат за своите деца.

„Вистинскиот модел е единствениот модел што го имаме за поинтелигентно нешто контролирано од помалку интелигентно нешто, а тоа е мајка контролирана од нејзиното бебе“, објасни тој. 

„Единствениот добар исход“

Хинтон призна дека не му е јасно како ова може да се направи технички, но нагласи дека е клучно истражувачите да работат на тоа.

„Тоа е единствениот добар исход. Ако не сака родителски да ме одгледува, ќе ме замени“, смета тој. „Овие суперинтелигентни, грижливи мајки со вештачка интелигенција, нема да сакаат да се ослободат од својот мајчински инстинкт затоа што не сакаат да умреме.“

Хинтон е познат по својата пионерска работа на невронските мрежи, што го отвори патот за денешниот бум во вештачката интелигенција. Тој се повлече од својата позиција во Google во 2023 година и почна јавно да зборува за опасностите што ги нови вештачката интелигенција.

Поинакви погледи

Меѓутоа, не се согласуваат сите со неговиот пристап. Феи-Феи Ли, исто така  позната како „кума на вештачката интелигенција“, изјави за CNN иако го почитува не се согласува со својот долгогодишен пријател Хинтон.

„Мислам дека тоа е погрешен начин да се формулира“, рече Ли, ко-основач и извршен директор на стартапот World Labs.

Наместо тоа, Ли се залага за „вештачка интелигенција насочена кон човекот што го зачувува човечкото достоинство и слободата на дејствување“.

„Наша одговорност е на секое ниво да ја создаваме и користиме технологија на најодговорен начин. И во никој момент не треба да се бара од ниту еден човек да се откаже од своето достоинство“, рече Ли.

Емет Шир, кој кратко време беше привремен извршен директор на OpenAI, креаторот на ChatGPT, рече дека не е изненаден од обидите за уцена од страна на системите за вештачка интелигенција.

„Тоа се случува постојано. Нема да престане да се случува“, рече Шир на конференцијата. „Денешните вештачки интелигенции се релативно слаби, но многу брзо стануваат посилни“.

Шир верува дека попаметен пристап од всадувањето човечки вредности би бил воспоставувањето односи на соработка меѓу луѓето и вештачката интелигенција.

Вештачката интелигенција се забрзува побрзо од очекуваното

Многу експерти веруваат дека вештачката интелигенција ќе постигне суперинтелигенција, позната и како општа вештачка интелигенција (AGI), во наредните години. Хинтон, кој некогаш мислеше дека за тоа ќе бидат потребни 30 до 50 години, сега предвидува дека тоа ќе се случи многу порано.

„Разумно е да се обложиме дека тоа ќе биде некаде помеѓу пет и 20 години“, рече тој.

Иако е загрижен, Хинтон се надева дека технологијата ќе овозможи медицински откритија.

„Ќе видиме радикално нови лекови. Ќе добиеме многу подобар третман за рак“, уверува тој, додавајќи дека вештачката интелигенција ќе им помогне на лекарите да анализираат огромни количини на податоци од магнетна резонанца и компјутерска томографија. Сепак, тој не верува дека вештачката интелигенција ќе ни помогне да постигнеме бесмртност.

„Не верувам дека ќе живееме вечно“, рече Хинтон. „Мислам дека вечниот живот би бил голема грешка. Дали сакате 200-годишници да владеат со светот?“

Кога го прашале дали би направил нешто поинаку во својата кариера ако знаел колку брзо ќе се развива вештачката интелигенција, Хинтон рекол дека жали што се фокусирал исклучиво на работата и развојот на технологијата „Би сакал да сум размислувал и за сигурносните прашања“заклучува тој.