Оның «Укрощение Силиконовой долины: как мы можем гарантировать что ИИ работает на нас» атты еңбегінде ЖИ-дің қоғамдық игілікке жұмыс істеуін қамтамасыз ету жолдары қарастырылған. Бұл мақалада Маркустың мөлдірлік туралы пікірлері, технологиялық компаниялар мен зерттеушілердің осы саладағы қызметтері толық талқыланады.
Жасанды интеллект — «қара жәшік» пе?
Маркус өзінің еңбегінде ЖИ жүйелерін «қара жәшік» ретінде сипаттайды. Бұл ұғым жүйенің ішкі жұмысы туралы ақпараттың ашық еместігін білдіреді. Көптеген адамдар мен ұйымдар ЖИ жүйелері қалай жұмыс істейтінін толық түсінбейді, себебі олар мөлдір емес. Бұл әсіресе ЖИ жүйелерін жасаушы ірі технологиялық компанияларға қатысты.
Ірі технологиялық компаниялардың уәделері мен шындығы
Маркус Microsoft компаниясының «мөлдірлік» туралы уәделерін сынайды. Мысалы, 2023 жылдың мамырында Microsoft президенті Брэд Смит «ЖИ басқаруға арналған 5 тармақты жоспар» жариялаған. Бұл жоспар мөлдірлікке ықпал ететінін айтқанымен, іс жүзінде жүйелердің қалай үйретілгені, қандай деректер пайдаланылғаны және қандай қауіптер болуы мүмкін екендігі туралы нақты ақпарат бермеген. Осыған ұқсас OpenAI компаниясының атқарушы директоры Мира Мурати де жүйенің деректерін ашық түрде түсіндіре алмағаны туралы айтылады.
Стэнфорд, MIT және Принстон зерттеулері
Мөлдірліктің болмауы тек ірі технологиялық компанияларға ғана емес, жалпы ЖИ экожүйесіне қатысты мәселе. Стэнфорд университетінің, Массачусетс технологиялық институтының (MIT) және Принстон университетінің ғалымдары, оның ішінде Риши Боммасани мен Перси Лян, ЖИ жүйелерінің мөлдірлігін зерттеді. Олар 10 ірі компанияны 100-ден астам фактор бойынша бағалап, әрбір компанияның мөлдірлік көрсеткіштері төмен екендігін анықтады. Мысалы, Meta компаниясы ең жоғары 54 пайыздық көрсеткішке ие болғанымен, деректердің қайдан алынғаны, жұмысшы күшінің пайдаланылуы және қауіп-қатерлерді азайту шаралары туралы толық ақпарат ұсынбаған. Microsoft пен OpenAI компанияларының мөлдірлігі де сын көтермеген.
ЖИ мөлдірлігінің маңыздылығы
Маркус мөлдірліктің бірнеше маңызды аспектілерін атап көрсетеді:
- Деректердің мөлдірлігі — ЖИ жүйелері қандай деректерге негізделіп үйретілетінін білу өте маңызды. Деректердің қандай авторлық құқық қорғалған материалдардан алынғаны, қандай қателіктер мен бұрмалаушылықтардың болуы мүмкін екені туралы мәліметтер ашық болуы керек.
- Алгоритмдердің мөлдірлігі — ЖИ шешімдерінің қалай қабылданатынын түсіну үшін алгоритмдердің ішкі жұмысын білу қажет. Автокөлік апаты немесе несие өтінішінің қабылданбауы жағдайында не болғанын анықтау үшін алгоритмдердің мөлдірлігін талап ету маңызды.
- Мазмұнның мөлдірлігі — Генеративті ЖИ жүйелерінен шыққан контенттің нақты қайдан шыққанын білу де маңызды. Мысалы, жалған жаңалықтар мен жасанды видеоның көбеюі жағдайында ИИ контентінің қайдан пайда болғанын анықтайтын жүйе қажет.
- Экологиялық мөлдірлік — ЖИ жүйелері көп мөлшерде энергияны, суды және басқа да ресурстарды пайдаланады. Сондықтан экологиялық шығындар туралы ақпарат ашық болуы керек.
- Корпоративтік мөлдірлік — Компаниялар ЖИ жүйелерінің тәуекелдері туралы не білетінін ашық айтуы тиіс. Мысалы, Ford Pinto оқиғасы сияқты жағдайлар болмауы үшін, технологиялық компаниялар өз жүйелеріндегі қауіптерді толық ашып көрсетуі қажет.
ЖИ мөлдірлігінің болмауынан туындайтын қауіптер
Мөлдірліктің жетіспеуі көптеген қауіптерге әкелуі мүмкін. Мысалы, генеративті жүйелер жалған ақпарат таратып, қоғамды алдай алады. Жасанды түрде жасалған адамдарды немесе дауыстарды пайдалану арқылы алаяқтық және манипуляциялар күшейеді. Осыған байланысты Маркус және басқа да сарапшылар ЖИ негізіндегі контенттің жасанды екенін анықтауға мүмкіндік беретін жүйелердің қажет екенін айтады. АҚШ-тың Федералды сауда комиссиясы да осы мәселе бойынша «адамдармен нақты адамның не машинамен сөйлесіп жатқанын білуі тиіс» деген ұсыныс жасаған.
Заңдар және реттеуші шаралар
ЖИ мөлдірлігіне байланысты заңдар мен реттеуші шаралар да маңызды рөл атқарады. Маркус АҚШ-тағы заң жобаларын атап өтеді. Мысалы, сенатор Рон Уайден және Кори Букер 2022 жылы Алгоритмдік жауапкершілік туралы заңды ұсынған. Сонымен қатар, 2024 жылы сенатор Эд Марки мен Мартин Генрих Экологиялық мөлдірлік туралы заң жобасын енгізген. Бұл заңдар ЖИ жүйелерінің мөлдірлігін арттыруға бағытталған қадамдар ретінде қарастырылады.
Гэри Маркустың ЖИ мөлдірлігі туралы ойлары қазіргі заманның ең өзекті мәселелерінің бірі болып табылады. ЖИ жүйелерінің мөлдір болмауы қоғамда үлкен қауіп-қатерлер туғызуы мүмкін. Бұл тек технологиялық компаниялар үшін ғана емес, жалпы қоғам үшін маңызды мәселе. Маркус атап өткендей, мөлдірлік — ЖИ-дің дұрыс жұмыс істеуін және қоғам игілігіне қызмет етуін қамтамасыз етудің басты шарты. Осыған байланысты, технологиялық компаниялар мен заң шығарушылар мөлдірлік мәселесін шешу үшін нақты шаралар қабылдауы қажет.