Mагчыма, што лёс людзей пяройдзе ў рукі звышінтэлекту

Швэдзкі філёзаф Нік Бострам (Nick Bostrom) напісаў кнігу пра магчымыя праблемы і пагрозы, зьвязаныя са стварэньнем штучнага інтэлекту ў будучыні – піша выданьне «Polityka». На думку аўтара, можа так здарыцца, што лёс чалавецтва тады пяройдзе ў рукі звышінтэлекту, таксама, як цяпер людзі вырашаюць пра лёс гарылаў, а не яны самі.

Можна прадугледзець, што для штучнага розуму найважнейшая будзе пастаўленая мэта, а не нейкія маральныя ці этычныя пытаньні. Напрыклад, калі ён вырашыць, што чалавек зьяўляецца свайго роду сыравінай, то можа імкнуцца чалавека выкараніць або выкарыстаць. Бострам мяркуе, што калі б удалося стварыць штучны інтэлект, то ён напэўна не рабіў бы такіх дурных крокаў, якія мы ведаем напрыклад з фільму «Тэрмінатар».

Аўтар разважае, якім чынам можна прадухіліць нэгатыўны сцэнар. Здаецца, што не дастаткова прышчапіць штучнаму розуму «любоў да чалавека». Эфэкты такой працэдуры маглі бы быць зусім іншыя, чым спадзяваўся б чалавек. Напрыклад, штучны розум мог бы старацца нас рабіць шчасьлівымі, пабуджаючы цэнтры адчуваньня прыемнасьці. А гэта ж не самае галоўнае. Якім чынам перадаць штучнаму інтэлекту веды пра вышэйшыя каштоўнасьці, калі мы самі ня можам дамовіцца, якія каштоўнасьці для нас самыя важныя? Нават калі б удалося вызначыць маральны кодэкс, то як перакласьці яго на мову лічбаў?

Пакуль што разважаньні Бострама чыста тэарэтычныя, паколькі працы над стварэньнем штучнага розуму знаходзяцца на вельмі пачатковым этапе – супакойвае аўтар артыкулу ў выданьні «Polityka».

Polityka/нг