Нейроғылым жасанды интеллектті кибершабуылдардан қалай қорғай алады?
Терең оқыту чектер мен конверттердегі қолжазба таңбаларды ғана тани алатын күндерден бері ұзақ жол жүріп өтті. Бүгінде терең нейрондық желілер фото және бейне редакторларынан бастап медициналық бағдарламалық жасақтамаға және жүргізушісіз көліктерге дейінгі көптеген компьютерлік көру қолданбаларының негізгі құрамдас бөлігіне айналды. Жалпы алғанда ми құрылымына сәйкес қалыптасқан нейрондық желілер әлемді біз, адамдар, секілді көруге жақындады. Дегенмен оларның әлі жүретін жолы ұзақ және адамдар ешқашан қателеспейтін жағдайларда олар қателіктер жібереді.
Әдетте қарсылас мысалдар деп аталатын бұл жағдайлар жасанды интеллект моделінің мінез-құлқын таңғаларлық түрде өзгертеді. Қарсыластық машиналық оқыту – қазіргі жасанды интеллект жүйелерінің ең үлкен қиындықтарының бірі. Олар болжап болмайтын жолдармен істен шығатын немесе кибершабуылдарға осал болып қалатын машиналық оқыту модельдеріне әкелуі мүмкін.
Қарсылас шабуылдарға төзімді жасанды интеллект жүйелерін құру белсенді зерттеу саласына және жасанды интеллект конференцияларында қызу талқыланатын тақырыпқа айналды. Компьютерлік көру саласында терең оқыту жүйелерін қарсылас шабуылдардан қорғаудың қызықты әдістерінің бірі – нейрондық желілер мен сүтқоректілердің көру жүйесі арасындағы алшақтықты жою үшін нейроғылымның тұжырымдарын қолдану.
Осы тәсілді қолдана отырып, MIT және MIT-IBM Watson AI Lab зерттеушілері сүтқоректілердің көру қыртысының қасиеттерін терең нейрондық желілермен тікелей сәйкестендіру мінез-құлқы болжамдырақ әрі қарсылас ауытқуларға төзімдірек жасанды интеллект жүйелерін жасайтынын анықтады. bioRxiv препринт серверінде жарияланған мақалада зерттеушілер қолданыстағы терең оқыту әдістерін нейроғылымнан шабыт алған нейрондық желілермен біріктіретін VOneNet архитектурасын таныстырды.
Мюнхен университеті, Людвиг Максимилиан университеті және Аугсбург университеті ғалымдарының көмегімен жүргізілген жұмыс биыл дерлік онлайн форматта өтетін жасанды интеллект жөніндегі маңызды жыл сайынғы конференциялардың бірі – NeurIPS 2020-ға қабылданды.
Конволюциялық нейрондық желілер “Convolutional neural network”
Бүгінде компьютерлік көруде қолданылатын негізгі архитектура – конволюциялық нейрондық желілер (CNN). Бірінің үстіне бірі қабаттастырылғанда, бірнеше конволюциялық қабатты кескіндерден иерархиялық белгілерді үйреніп, бөліп алуға оқытуға болады. Төменгі қабаттар бұрыштар мен жиектер сияқты жалпы өрнектерді табады, ал жоғарғы қабаттар бірте-бірте нысандар мен адамдар сияқты нақтырақ нәрселерді табуды меңгереді. Дәстүрлі толық байланысқан желілермен салыстырғанда ConvNets-тің әрі төзімдірек, әрі есептеу тұрғысынан тиімдірек екені дәлелденген. Алайда CNN-дер мен адамның көру жүйесінің ақпаратты өңдеу тәсілдері арасында түбегейлі айырмашылықтар бар.
Терең, одан да тереңге
“Терең нейрондық желілер (әсіресе конволюциялық нейрондық желілер) көру қыртысының таңғаларлықтай жақсы модельдері болып шықты – таңғаларлығы, олар мидан жиналған эксперименттік деректерге нейроғылыми деректерді түсіндіру үшін арнайы жасалған есептеу модельдерінен гөрі жақсырақ сәйкес келуге бейім, – дейді MIT-IBM Watson AI Lab-тың IBM тарапынан директоры Дэвид Кокс TechTalks-қа берген сұхбатында. – Бірақ кез келген терең нейрондық желі ми деректерімен бірдей сәйкес келе бермейді және ми мен DNN-дердің ерекшеленетін кейбір тұрақты алшақтықтары бар.”
Бұл алшақтықтардың ең айқыны – шағын жамау немесе сезілмейтін шу қабаты сияқты болмашы ауытқулар нейрондық желілердің кіріс деректерін қате жіктеуіне себеп болатын қарсылас мысалдар. Бұл өзгерістер көбіне адам көзіне байқалмайды.
Кокс былай дейді: “DNN-дерді алдайтын кескіндер біздің өз көру жүйемізді ешқашан алдамайтыны анық”. “Сонымен бірге DNN-дердің кескіндердегі табиғи бұрмалануларға (мысалы, шу қосылуына) таңғаларлықтай осал екені де бар, сондықтан жалпы алғанда төзімділік DNN-дер үшін шешілмеген мәселе сияқты көрінеді. Мұны ескере отырып, ми мен DNN-дер арасындағы пайдалы болуы мүмкін айырмашылықтарды іздеу үшін бұл жақсы орын деп ойладық.
Кокс 2000 жылдардың басынан, MIT-те нейроғылым профессоры Джеймс ДиКарлоның шәкірті болған кезден бері нейроғылым мен жасанды интеллекттің түйіскен тұсын зерттеп келеді. Екеуі сол уақыттан бері бірге жұмыс істеуін жалғастырып келеді.
“Ми – керемет қуатты әрі тиімді ақпарат өңдеу машинасы, одан практикалық мақсаттарда қолдануға болатын жаңа тәсілдерді үйрене аламыз ба деп сұрау қызығушылықты оятады. Сонымен бірге жасанды жүйелер туралы білетінімізді миды түсінуімізге көмектесетін эксперименттерді ұсына алатын бағыттаушы теориялар мен гипотезалар жасау үшін пайдалана аламыз”, – дейді Кокс.
Миға ұқсас нейрондық желілер
Жаңа зерттеу үшін Кокс пен ДиКарло нейрондық желілердің белсенділігі ми белсенділігіне ұқсас болғанда олардың қарсылас шабуылдарға төзімдірек болатын-болмайтынын анықтау үшін мақаланың жетекші авторлары Джоэл Дапелло мен Тиаго Маркеске қосылды. Жасанды интеллект зерттеушілері AlexNet, VGG және ResNet-тің түрлі нұсқаларын қоса алғанда, ImageNet деректер жиынтығында оқытылған бірнеше танымал CNN архитектурасын сынақтан өткізді. Сондай-ақ олар нейрондық желі қарсылас мысалдарды қате жіктемеу үшін солардың негізінде оқытылатын үдеріс – “қарсыластық оқытудан” өткен кейбір терең оқыту модельдерін де қамтыды.
Ғалымдар терең нейрондық желілердегі белсенділік пен мидағы нейрондық реакцияларды салыстыратын “BrainScore” өлшемін қолдана отырып, жасанды интеллект модельдерін бағалады. Содан кейін шабуылдаушы нысана нейрондық желілердің құрылымы мен параметрлері туралы толық ақпаратқа ие болатын «ақ жәшік» қарсылас шабуылдарына қарсы сынау арқылы әр модельдің төзімділігін өлшеді. “Таңғаларлығы, модель миға неғұрлым көбірек ұқсаған сайын, жүйе қарсылас шабуылдарға соғұрлым төзімді болды”, – дейді Кокс.
Тереңге, одан да тереңге бойлау, сонда қалып сәл ойлану үшін біраз қорықпаушылық, білгеніңнен бас тарта алатындай батылдық, тереңде кездесуі ықтимал жаңа, мүлде беймәлім БІЛІМНІҢ алдында таңғалған сәтте онымен бетпе-бет келу жүрегі қажет. Ғылымның жарығында этикалық және адамгершілік құндылықтарға сүйене отырып жол жүру үшін “Ойланатын нағыз уақыт”!