Руските учени се съмняват, че на изкуствения интелект може да се има безусловно доверие

Много важна тема, свързана с технологиите за изкуствен интелект, беше обсъдена на последния Президиум на Руската академия на науките. И така, по време на дискусията учените се опитаха да разберат доколко можете да се доверите на изкуствения интелект (AI) и къде е линията, след която човек трябва да вземе решение сам.

Вярвате или не, изкуствен интелект

И така, според президента на Руската академия на науките А. Сергеева, AI е така наречената „черна кутия“, която дори самите й създатели не разбират напълно как работи. И така възниква много логичен въпрос: Възможно ли е да се доверим на заключенията на ИИ, ако не можем да проследим веригата от изводи, направени от тази „машина“?

Всъщност в действителност изкуственият интелект вече извършва доста голям брой операции по-добре и по-бързо от хората.

И може да е изкушаващо да се откаже от науката по принцип, защото специалист със средна компетентност може да постави определени задачи и да чете отговори от AI.

Но само в случай на пълно и безразборно доверие в решенията на AI, можете да получите силно изкривена картина, което може да бъде доста скъпо.

Работата е там, че човек е твърде склонен да се доверява на технологиите, но с изкуствения интелект всичко е много по-сложно. Работата е там, че човечеството все още не може напълно да обясни как работи човешкият мозък.

И по същия начин няма разбиране за това как работи AI, който е изграден по аналогия с човешкия мозък. Всъщност невронните мрежи се основават на доста просто уравнение на един неврон.

Но само в случай, че например 600 милиарда такива компоненти участват в работата наведнъж, абсолютно никой няма да каже със сигурност какви връзки се образуват в невронната мрежа.

Освен това учените отбелязаха, че с развитието на невронните мрежи се откриват все повече и повече недостатъци. В крайна сметка, в началото AI се учи от милиони различни примери.

Но често, дори и с леко отклонение от параметрите, "научени" по време на тренировка, системата започва да дава неправилни резултати.

Така че доста поразителен пример е невронна мрежа, създадена от IBM, създадена целенасочено за медицински нужди. И така, се оказа, че IBM AI поставя диагнози на нивото на доста обикновен лекар. Това означава, че въпреки че технологиите с изкуствен интелект позволяват създаването на интелигентни системи, те далеч не са съвършени.

И приключвайки дискусията, учените стигнаха до заключението, че предвид непрекъснато нарастващата тенденция в развитието и използването на изкуствен интелект е просто необходимо да се създаде определен аналог на GOST, който ще направи възможно пълноценното използване на AI само след като системата премине цял набор от проверки и учените са убедени, че AI няма да изпълни грешки.

Напишете в коментарите как вие лично се чувствате относно използването на AI в ежедневието. Ако материалът ви е харесал, оценете го и не забравяйте да се абонирате за канала. Благодаря за вниманието!