Трябва ли да спрем да обучаваме напреднали AI ?
Катоизкуствен интелект (AI )продължава да напредва, някои ключови фигури в областта сега призовават за спиране на обучението за AI поради риска, който представлява за човечеството. Изпълнителният директор на Twitter Илон Мъск, съоснователят на Ябълка Стив Возняк и някои изследователи от DeepMind подписаха отворено писмо от Бъдеще на живот институт , призоваващо за временно спиране на разработването на AI над определен капацитет, предупреждавайки за потенциалните рискове, породени от по-напреднали системи . В писмото се твърди, че през последните месеци лабораториите за изкуствен интелект са заключени в извънконтролна надпревара за разработване на по-мощни цифрови умове, които дори техните създатели не могат да разберат, предвидят или контролират.
The Бъдеще на живот институт е организация с нестопанска цел, която има за цел да насочи трансформиращите технологии далеч от екстремни, широкомащабни рискове към ползи за живота. В своето отворено писмо организацията заявява, че AI системите с човешки и конкурентен интелект представляват дълбоки рискове за обществото и човечеството. Писмото предупреждава, че подобни системи могат да наводнят информационните канали с дезинформация и да заменят работните места с автоматизация. Усъвършенстваните AI трябва да се разработват внимателно, но вместо това последните месеци видяхме, че лабораториите се надпреварват да внедряват все по-мощни системи.
Инвестиционната банка Голдман Сакс наскоро публикува доклад, в който се посочва, че докато AI вероятно ще увеличи производителността, милиони работни места могат да бъдат автоматизирани. Други експерти обаче твърдят, че ефектът от ИИ върху пазара на труда е трудно да се предвиди. В писмото Бъдеще на живот институт пита: „Трябва ли да развием нечовешки умове, които в крайна сметка биха могли да превъзхождат числено, да надхитрят, остарели [sic ] и да ни заменят?“ Професор Стюарт Ръсел от Калифорнийския университет, Бъркли и подписал писмото, каза пред Би Би Си Новини , че системите с изкуствен интелект представляват значителни рискове за демокрацията чрез оръжейна дезинформация, за заетостта чрез изместване на човешки умения и образованието чрез плагиатство и демотивация.
Писмото също така предупреждава за потенциалната бъдеща заплаха за човешкия контрол над нашата цивилизация от напреднали ИИ, но професорът по компютърни науки в Принстън Арвинд Нараянан критикува писмото за игнориране на версията на проблема, която вече вреди на хората. Той обвини писмото, че се фокусира върху „спекулативен, футуристичен риск“. OpenAI , компанията зад ChatGPT , наскоро пусна GPT -4 – най-съвременна технология, която впечатли наблюдателите със способността си да изпълнява задачи като отговаряне на въпроси за обекти в изображения.OpenAI не е коментирал публично писмото.
Предвид потенциалните рискове, свързани с бързото развитие на ИИ, експертите призовават за по-голяма предпазливост при разработването на ИИ. По-специално, те призовават лабораториите незабавно да спрат за поне шест месеца обучението на AI системи, по-мощни от GPT -4. Въпреки че изкуственият интелект има потенциала да трансформира обществото, експертите твърдят, че такава трансформация не трябва да става за сметка на човешката безопасност и контрол.
В дългосрочен план вземането на разумни предпазни мерки е малка цена за смекчаване на рисковете, породени от напредналите ИИ. Експертите обаче също така твърдят, че рисковете са трудни за прогнозиране и че трябва да действаме предпазливо, за да избегнем нежелани последствия. Бъдеще на живот институт призовава разработчиците на AI да обмислят потенциалните бъдещи последици от тяхната работа и да гарантират, че напредналите AI се разработват внимателно.
Като цяло призивът за спиране на обучението за ИИ над определен капацитет отразява нарастващата загриженост относно рисковете, породени от напредналите ИИ. Въпреки че все още има много неща, които не знаем за дългосрочните последици от изкуствения интелект, експертите призовават към повишено внимание, за да се избегне потенциална вреда за обществото и човечеството. Бързият темп на развитие на ИИ през последните години кара много експерти да се притесняват, че технологията може да е извън контрол и че сме изложени на риск от създаване на системи, които не можем да разберем или контролираме. Като такъв, призивът за спиране на разработването на AI е необходима стъпка, за да гарантираме, че можем да използваме потенциала на AI безопасно и отговорно.