“Жасанды интеллект бәрімізді өлтіруі мүмкін.”
Авторы: д-р Нурфер Терджан
Соңғы бір апта ішінде технология әлемінің ішінен естілген ең шошытарлық сөйлем осы. Алғашқы көзқараста ол ғылыми фантастика киносынан алынған ақырзаман көрінісі сияқты: машиналар оянады, адам тарих сахнасынан кетеді. Алайда бұл сөйлемді талқылауға тұрарлық ететін – оны айтып отырғандардың кім екендігі. Сөз технологияны алыстан бақылап отырған қасірет жаршыларынан емес; осы жүйелерді өздері оқытатын, олардың қауіпсіздігі үстінде жұмыс істейтін және зертханалардың жабық есіктерінің арғы жағында не болып жатқанын білетін адамдардан шығып отыр.
Алдымен тақырыптың тудыратын үрейі мен құбылыстың өзін бір-бірінен ажырату қажет. “Жасанды интеллект адамзаттың жойылуына әкелуі мүмкін” деу мен “жасанды интеллект адамзатты жояды” деу бір сөйлем емес. Біріншісі бір ықтималдықтың есігін ашады; екіншісі үкім жариялайды. Бүгін қолымызда жасанды интеллекттің адамзатты жоқ ететінін көрсететін бірде-бір расталған ғылыми дерек жоқ. Сондықтан “бәрімізді өлтіреді” деген сөйлемді ғылыми қорытынды ретінде ұсынуға болмайды. Бірақ бұл талқылауды жеңіл санауға болады дегенді білдірмейді. Өйткені ықтималдық тек дәлелденбегені үшін ғана маңызсыз емес; оның маңызы жоғалтуы мүмкін нәрсенің ауқымынан туындайды.
Жаңалық: Бір отставка, бір пайыз, бір үндеу
Оқиғалардың барысы мынадай. Үш жылын алдымен OpenAI-да, кейін Anthropic-те жасанды интеллект модельдерін оқытуға арнаған зерттеуші Джейкоб Коксон 8–9 қыркүйекте әлеуметтік желіде жариялаған бірқатар жазбаларында қызметінен кететінін мәлімдеді. Коксонның пікірінше, екі компания да “жауапкершілікпен әрекет етпей отыр”; жақын арада “кез келген нәрсені бұза алатын, кез келген саланы бір түнде өзгерте алатын, нақты билік пен ресурсқа ие бола алатын” адамнан асқан жүйелер пайда болады, ал бұл компаниялар, оның сөзімен айтқанда, “біздің өмірімізбен құмар ойнап отыр.” Ең көп жаңғырық тудырған сөйлемі мынау болды: “Жасанды интеллектті жасап жатқан адамдар оның осы онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді.”
Бұл мәлімдеменің бір адамның ашуымен шектеліп қалмағанын көрсететін екінші оқиға сол күндері болды. Anthropic-те жасанды интеллекттің адами құндылықтармен үйлесімі мәселесімен айналысатын топтың жетекшісі Эван Хубингер алдағы он жыл ішінде дамыған жасанды интеллекттің адамзаттың жойылуына әкелу ықтималдығын он пайыздан жоғары деп бағалайтынын мәлімдеді. Мұнда мұқият оқуды талап ететін бір нюанс бар: бұл пайыздар зертханалық тәжірибелермен өлшенген, статистикалық тұрғыдан тексерілген өлім ықтималдықтары емес. Бұл – сала ішіндегі маманның аса белгісіз болашақ алдында жасаған жеке тәуекел болжамы. Яғни бұл термометр көрсеткіші емес, ар-ождан есебі. Бірақ бұл есептің иесі дәл осы тәуекелді азайтуға жауапты адам; оны елемеу кемеге су кіріп жатқанын хабарлаған матросты “қалай болғанда да ол капитан емес қой” деп үнсіз қалдыруға ұқсайды.
Ақырында, үшінші оқиға талқылауды жеке алаңдаушылықтардан тыс, саланың өзегіне алып шықты. Anthropic-тің негізін қалаушылардың бірі және бас атқарушы директоры Дарио Амодеи 12 қыркүйекте жариялаған мақаласында салаға ашық үндеу жасады: “Жасанды интеллект модельдерінің қабілетін арттыру қарқынын бәсеңдетуіміз керек. Прогресс бәрібір жылдам болып көрінеді; ұтқан уақытымызды хикметпен пайдалануымыз керек.” Амодеи алдағы алты айдан он екі айға дейінгі мерзімде өз бетімен әрекет ететін жасанды интеллект тобырлары бүкіл интернетке орныққан бот желісі арқылы оны басып алып, жүздеген миллиард долларлық шығынға әкелуі мүмкін екенін ескертті; сыртқы аудиторларға компания қызметкерлерімен тең қолжетімділік берілуін ұсынды. Үндеу жауапсыз қалмады. OpenAI басшысы Сэм Альтман сала “шекараны белгілі бір қарқынмен ілгерілетуі” керек екенін айтып, аудиторларға осындай қолжетімділік беруге уәде етті; Илон Маск болса бір сөйлеммен шектелді: “Дарио дұрыс айтады.”
Осылайша бір-бірімен аяусыз бәсекедегі үш тұлға кем дегенде бір сөйлемде тоғысты. Тарихта мұндай келісімдер сирек кездеседі және әдетте қауіпті жоққа шығару мүмкін болмай қалған сәттерде ғана көрінеді.
Пікір: Қате жерден басталған сұрақ
Мүмкін, біз талқылауды қате жерінен бастап жүрген шығармыз. Жасанды интеллекттің ең үлкен мәселесі – машинаның бір күні адамға айнала ма, жоқ па деген сұрақ емес. Негізгі сұрақ мынау: адам қолына тарихта бұрын-соңды болмаған ауқымдағы күш тигенде, ол неге айналады?
Ядролық физика атом бомбасын міндетті етпеді. Атомның құрылымын түсіну мен Хиросимаға бомба тастаудың арасында физикамен қатар адам еркі, саясат, билікқұмарлық және соғыс тұрды. Білім есік ашады; ол есіктен кімнің, қандай ниетпен өтетінін білім анықтамайды. Сол сияқты жасанды интеллекттің болуы да адамзаттың жойылуын міндетті етпейді. Алайда технология билікпен, бәсекемен, капиталмен, әскери басымдықпен және бақылаусыздықпен бір теңдеудің ішінде тоғыса бастағанда, мәселе тек инженерлер шешуі тиіс техникалық проблема болудан қалады.
Енді алдымызда этикалық проблема тұр. Саяси проблема тұр. Әрі, түптеп келгенде, өркениеттік проблема тұр.
Көне ойлау дәстүріміз бұл айырманы әлдеқашан жасаған еді. Құдірет пен хикмет бір нәрсе емес; күш өзін басқаратын даналықсыз тек өседі, кемелденбейді. Әл-Фарабидің қайырымды қаласы – ең күшті қала емес, өз күшін дұрыс мақсатқа бағыттай білетін қала. Бүгін Силикон алқабынан естілген “баяулайық” деген үндеу, мұны сезсе де, сезбесе де, сол ежелгі ақиқаттың төңірегінде айналып жүр: жылдамдық – ізгілік емес; ізгілік – жылдамдықты не үшін жұмсайтынымызда.
Өйткені адамзат тарихында алғаш рет бетпе-бет келіп отырған негізгі сұрақ тек “Қаншалықты қуатты интеллект жасай аламыз?” деген сауал емес. Мүмкін, одан әлдеқайда маңыздырақ сұрақ мынау шығар: жасаған осы күшімізді қай адамның, қай институттың, қай мемлекеттің және қандай құндылықтар жүйесінің қолына тапсырамыз? Ал сол қолдар күштің сиқырына берілгенде, оларды тоқтататын заң, институт, ар-ождан бола ма?
Амодеидің үндеуіндегі ең назар аударарлық сөз – “баяулау” емес, “хикмет”. Ұтқан уақытты хикметпен пайдалану. Өйткені уақыттың өзі ешнәрсені шешпейді; уақытты не істейтініміз шешеді. Бақылау тетіктері, халықаралық құқық, ашықтық, тәуелсіз бағалау және, ең бастысы, билікті қолында ұстағандардың өз шекарасын мойындауы. Бұлардың ешқайсысы бағдарламалық жаңартумен келмейді. Бәрі де адамның өзімен бетпе-бет келуін талап етеді.
Қорытынды: Машина емес, айна
Сондықтан “жасанды интеллект бәрімізді өлтіреді” деген сөйлемге сақтықпен қарау керек. Ғылым бүгін бізге мұндай кесімді болашақты айтып отырған жоқ. Бірақ саланың дәл ортасынан естілген ескертулерді ақырзаман болжамы деп кемсіту де дұрыс болмайды. Өздері құрған жүйеден үріккен адамдардың дауысы сырттан қарайтын көптеген сыншылардың дауысынан салмақтырақ.
Мүмкін, басты қауіп – машиналардың бір күні адамға айналуы емес шығар.
Басты қауіп – адамның машиналар арқасында қолына тиген орасан зор күштің алдында өз шекарасын ұмытуы. Жасанды интеллект ақыр соңында бізге машина көрсетпейді; айна ұстайды. Сол айнадан көретініміз – технология емес, өзіміздің кім екеніміз немесе кімге айналғанымыз.
Ойланатын, бетпе-бет келетін нағыз уақыт келді!
Дереккөздер:
NPR — Anthropic researcher resigns amid AI safety concerns
Forbes — Anthropic alignment lead warns AI could kill all humans as researcher quits
Axios — Anthropic, OpenAI CEOs call for slowdown in AI development
Washington Post — Amodei calls for AI oversight, joined by Altman and Musk
https://www.5gvirusnews.com/yazarlar/yapay-zek-hepimizi-oldurecek-mi-h1961.html