Високиот комесар на ОН за човекови права Фолкер Турк предупреди дека развојот на вештачката интелигенција сè повеќе се концентрира во рацете на мал број луѓе и компании и повика на итно воспоставување меѓународни правила за нејзина безбедност и контрола.
Обраќајќи се пред Советот на ОН за човекови права во Женева, Турк оцени дека владите мора побрзо да реагираат и да воспостават посилни заштитни механизми, особено во услови кога системите на вештачка интелигенција стануваат сè помоќни.
„Мала група луѓе има речиси неограничена моќ врз вештачката интелигенција“, порача Турк, предупредувајќи дека зад повиците за слобода во технолошкиот сектор може да се крие и масовното користење на лични и други податоци на граѓаните.
Според него, дополнителен проблем е тоа што одложувањето на воспоставувањето нови правила најмногу им одговара на големите технолошки компании и нивните сопственици, кои во меѓувреме продолжуваат да развиваат сè помоќни системи.
Предупредување за AI што би можела да излезе од контрола
Турк ја сподели и загриженоста на дел од експертите и луѓето од самата индустрија дека развојот на напредната вештачка интелигенција може да донесе сериозни, па дури и егзистенцијални ризици за човештвото.
Како пример се наведуваат сценарија во кои напредните модели би можеле да ги избегнат ограничувањата поставени во нивните безбедносни системи или да преземат активности што нивните создавачи не ги предвиделе, вклучително и обиди за уцена.
„Повикав на сеопфатни напори за воспоставување цврсти гаранции за безбедноста и заштитата на AI, пред да биде предоцна“, порача високиот комесар.
Турк најави дека во наредните денови ќе им се обрати директно на компаниите што развиваат вештачка интелигенција, повикувајќи ги да преземат конкретни мерки за намалување на ризиците поврзани со технологијата.
Турк повика и на забрана на автономното оружје
Предупредувањето на ОН не се однесува само на софтверот, податоците и контролата врз информациите.
Турк истовремено повика на итна забрана на автономното оружје, односно системи што можат да одземат човечки живот без директно човечко учество во донесувањето на одлуката за напад.
Развојот на ваквото оружје отвора сериозно прашање за одговорноста – кој ќе биде одговорен доколку машина самостојно избере и нападне цел.
За Турк, токму сега е моментот да се постават јасни граници за развојот и употребата на вештачката интелигенција, пред технолошкиот напредок да создаде ситуации во кои воспоставувањето контрола ќе биде многу потешко.
Во основата на предупредувањето на ОН е и прашањето кој ќе ја има вистинската моќ врз технологијата што сè повеќе навлегува во економијата, безбедноста, информациите и секојдневниот живот – институциите и јавноста или мал број моќни технолошки компании и нивните сопственици.
