Dirbtinis intelektas kare. HOT.LT: Lithuanian

Ateityje daugybė išmanių, sujungtų tinkle daiktų dalyvaus karo lauke glaudžiai sąveikaudami su kariais, o taip pat autonomiškai. IOBT (Karinių daiktų internetas) randasi kaip karo tikrovė. Dauguma jų labai nesiskirs nuo to, ką jau matome: sensoriai, valdomi sviediniai (ypač “paleidai ir pamiršai” tipo), nepilotuojami skraidymo aparatai (dronai). Taip pat tikėtini įvairūs robotai – nuo labai mažų (vabalo dydžio sensorių) iki karius ir priemones gabenančių savieigių.

Kiti veiks kaip apsauginės, tame tarpe autonomiškos priemonės. Ir galiausiai bus įranga, fiziškai ar elektroniškai veikianti priešą ar jo įrangą - šios, greičiausiai nebus autonomiškos, o valdomos kariškių (JAV gynybos ministerija uždraudė naudoti autonomišką ar pusiau autonomišką ginkluotę, tačiau niekas negali užtikrinti, kad taip elgsis ar elgiasi kitos šalys).

Gretų šių išmanių daiktų mūšio lauke kompiuteriuose ir tinkluose įsikurs gausybė kiber-robotų (botų). Vieni jų gins komunikacijas ir informaciją, kiti stebės ir neutralizuos grėsmes, treti bus skaitmeniniai žmonių (ar robotų) patarėjai padedantys priimti sprendimus. Kai kurie bus skirti ir priešo elektroninių sistemų bei informacijos puolimui.

Visi tie išmanūs daiktai privalės veikti priešiškoje, konfrontuojančioje aplinkoje. Karas taps daug sudėtingesnis. Kariai susidurs su daiktais, kurie turi savo „valią”, o taip pat atlikti veiksmus, neįmanomus žmogui. Ne visada kariui bus laiko priimti sprendimus tokiomis aplinkybėmis. O išmanūs karo įtaisai, savo ruožtu, mokysis nuspėti karių veiksmus.

Situaciją sunkins ir didelė išmanių daiktų įvairovė. Juos gamins labai skirtingi gamintojai, skirtingais tikslais. Jie negalės elgtis pagal iš anksto užduotus scenarijus, o privalės sugebėti apsimokyti – atpažindamas, išsiaiškindamas kito mūšio lauke sutikto prietaiso ir žmonių elgseną ir galimybes. Ryšys su kitais prietaisais tinkle gali būti blokuojamas, o gaunama informacija gali būti tikra arba klaidinanti, Tyrimai rodo, kad, galbūt, labiausiai pavojinga yra „pakišta” informacija arba prietaisų užkrėtimas piktybišku kodu. Bus būtinis kibernetiniai „patruliai“, tikrinantys tinklus bei išmanius prietaisus bei šalinantys užkrėstą kodą, o taip pat numatytos priemones „savigydai“.

Vienu iššūkiu dirbtiniu intelektu sustiprintame kare bus elektros šaltinių prieinamumas. Dauguma išmaniųjų prietaisų atlieka nemažai skaičiavimų, o tam reikia nemažų energijos sąnaudų. Matyt, elektros maitinimas turėtų perduodamas belaidžiu tinklu iš šaltinio, esančio už mūšio lauko. Gaila, tai irgi nėra labai patikimas sprendimas – priešas nenusiteikęs tai leisti.

2024 m. spalio 26 d. sukako 40 m. James Cameron’o klasikai „Terminatoriui“, išryškinusiu mašinų baimę visuomenėje – su kuriomis negalima susitarti ir kurios „niekad nesiliaus, ... kol nemirsite“. Jame pasakojama apie super-išsivysčiusią dirbtinio intelekto sistemą „Skynet“, užvaldžiusią pasaulį pradėjus branduolinį karą. Tačiau išlikę žmonės, vadovaujami Džono Konoro, vis dar ginasi nuo mašinų. Dž. Konoro vaidmuo karui toks svarbus, kad „Skynet“ imasi veiksmų, kad ištrintų iš istorijos – tad siunčia į praeitį, į 1984 m., kiborgą (A. Švarcnegerį), kad tasai nužudytų būsimo Dž. Konoro motiną Sarą.

6-i filmai apie Terminatorių prisidėjo prie dabar dažnokai iškylančių diskusijų susirūpinimo apie galimą dirbtinio intelekto (DI) pavojų. Bet šis filmas nebuvo pirmuoju – galima sugretinti „Skynet“ su HAL9000 iš Stanley Kubrick’o „2001: Kosminės odisėjos“ (1968). O dar ankstesnės to susirūpinimo ištakos sutinkamos M. Šeli „Frankenšteine“ (1818) bei Karelo Čapeko pjesėje „R.U.R.“ (1921; plačiau apie jį skaitykite >>>>>), abiejose pasakojant apie išradėjus, praradusius kontrolę savo tvariniams.

Tačiau „Terminatoriuje“ nauja tai, kad jis luditiškas baimes (19 a. anglų audėjų judėjimo prieš mašinas) perteikė per 9-o dešimtm. JAV kultūrinę prizmę. Kaip ir „Kariniai žaidimai“ (Wargames, 1983), kur paauglys vos neišprovokavo Trečiojo pasaulinio karo įsibraudamas į karinį superkompiuterį, „Skynet“ išryškina „šaltojo karo“ laikų branduolinio susinaikinimo nuogąstavimus (čia pakviesiu paskaityti apie branduolinį karą pokario fantastikoje) derinyje su sparčiais technologiniais pokyčiais.

Ir štai, praėjus 40 m., X savininkas (t.y. E. Maskas) ne kartą pamini „Terminatorių“, išreikšdamas susirūpinimą hipotetiniu superprotingo DI išsivystymu. Vis tik tokie pareiškimai erzina technologijų šalininkus – pvz., buvęs JK technologijų ministras Paul Scully¹⁾ 2023-iųjų konferencijoje Londone pasakė: „Jei kalbate apie žmonijos pabaigą tik dėl kokio nors išgalvoto Terminatoriaus stiliaus scenarijaus, tai prarandate viską, kas gero [gali duoti] DI“ [atseit, prisiminkime Švarcnegerio virsmą iš blogojo į sergintį „Terminatoriuje 2: paskutinio teismo diena“].

Bet tai nereiškia, kad nėra jokio pavojaus naudojant DI kariniams reikalams. Ir ar patikėsite oficialiais JAV atstovais, tvirtinančiais, kad DI niekada nebus panaudotas branduoliniams ginklams?! Tačiau jau keli dešimtmečiai egzistuoja autonominės ginkluotės sistemos, kurios suaktyvuotos gali pasirinkti ir atakuoti taikinius be žmogaus įsikišimo. 2016 m. JAV Oro pajėgų generolas Paul Selva²⁾ įvedė terminą „Terminatoriaus galvosūkis“ (Terminator conundrum), apibūdinantį tokios ginkluotės keliamus etinius ir teisinius iššūkius.

Dėl to britų kompiuterininkas Stuart Russell’as³⁾ pasisako už visų letalinių autonominių ginklų, tame tarpe su DI panaudojimu, uždraudimą, nes mano, kad didžiausia rizika yra ne ta, kad bus prarasta jų kontrolė, o tai, kiek tiksliai bus vykdomos instrukcijos, žudant su antžmogišku tikslumu. Tarkim, DI valdomi nedidelių droniukų spiečiai gali tapti „pigiu masinio naikinimo ginklu“ (karas Ukrainoje tai jau parodo p, kokie efektyvūs gali būti pigūs „plevenantys sprogmenys“ (loitering munitions) su įvairiais autonomiškumo laipsniais). Ir dar laimė, kad šios technologijos nėra superprotingos!? Tad daugelis, tame tarpe ir Jungtinėse Amerikos valstijose, mini būtinybę naudoti „žmogaus sprendimą“ naudojant autonominę ginkluotę sankcionuojant taikinių parinkimą ir ataką. Tačiau ir čia yra „antras lazdos galas“ – žmogiškos kontrolės kokybė: žmonės linkę patikėti tuo, ką sako kompiuteriai!?

Dirbtinio intelekto karai

JAV nacionalinio investavimo strategija turi praeiti pro sudėtingus mechanizmus, tarkim JAV kongresą, net jei yra paskelbta skaras gręsiantis šalies finansiniam ir ekonominiam konkurentiškumui. Lyderiavimo dirbtinio intelekto (DI) srityje JAV greičiausiai pralaimi. O juk tai nauji, skaitmeniniai ginklai – ir niekas nepuls ginčyti, kad DI yra svarbus. Tuo tarpu D. Trumpo administracija jam skiria mažai dėmesio.
Tuo tarpu Kinija ypač stipriai finansuoja DI: 2020-iems į DI ketinama investuoti 70 mlrd. USD prognuozuojant, kad 2030 m. ji lyderiaus toje srityje.

Technologijų kompanijos turi puikių DI demonstracijų. „Google“ AlphaGo Zero įsisavino vieną sudėtingiausių GO žaidimą per 3 d. ir laimi prieš stipriausius pasaulio žaidėjus. Keletas kompanijų tvirtina sukūrę bepiločius automobilius. Tačiau žaidimai tėra atskiras atvejis, o bepiločiai automobiliai vis dar bandymo stadijoje. AlphaGo savo „protą‘ įgavo dvi DI sistemas privertus žaisti viena prieš kitą. Tačiau skirtingai nuo žaidimų, verslas neturi griežtai apibrėžtų taisyklių. Taip pat svarbus patikimumo veiksnys. Avialinijos diegia veidų atpažinimo sistemas, o Kinija tokiomis sistemomis remiasi kurdama savo nacionalinio sekimo sistemą. DI naudojamas medicininių duomenų analizei bei padeda gydytojams. Tačiau DI gali būti apkvailintas (žr. >>>>>), pvz., 2018 m. gruodį paskelbtas straipsnis apie tai, kad DI bananą palaiko skrudintuvu (žr. >>>>>).

Antrąkart prezidentaujančio D. Trumpiečio administracijai toliau nutrumpinant finansavimą mokslui ir niekinant mokslinių tyrimų vaidmenį – mokslininkai, esantys Jungtinėse valstijose, pradėjo žvalgytis „žalesnių ganyklų“. Ir tai daro ne vien atskiros personos, o vyksta jau masiškai. „Nature“ atliktame balsavime 1200 mokslininkų (o tai 75% imties) linkę palikti JAV, daugiausia dėmesį nukreipiant į Europą ir Kanadą. Ir jei to būtų maža, beveik 80% baigusiųjų mokslus ir 255 iš 340 doktorantų sakėsi svarstą išvykti. JAV gresia baisus „smegenų nutekėjimas“ – ir ar negresia JAV atsidurti mokslo pažangos paribiuose ir tapti dar viena „benzino kolonėle“ (drill, drill, drill, dig, dig, dig)?! O su tuo ir ateinančiu technologiniu atsilikimu...

¹⁾ Polas Skalis (Paul Stuart Scully, g. 1968 m.) - britų politikas konservatorius, buvęs Parlamento narys (2015-24) ir Parlamento sekretoriaus DI ir skaitmeninės vyriausybės reikalams pavaduotojas (2022-23). 2024 m. vasarį buvo apkaltintas islamofobija.

²⁾ Polas Selva (Paul Joseph Selva, g. 1958 m.) - buvęs amerikiečių Oro pajėgų 4-ių žvaigždučių generolas, buvęs Štabų vadovų jungtinio komiteto vicepirmininku (2015-19). Pabrėžė branduolinio susilaikymo ir ginkluotės modernizacijos svarbą. Kalbėjo apie ginkluotės „Terminatoriais galvosūkio“ galimybę, kai kuriems JAV priešams ruošiantis kurti ginkluotė su dirbtiniu intelektu, ir skatino darbus dėl tokių ginklų etinio panaudojimo. Įvairiais lėktuvais ore išbuvo per 3100 val.

³⁾ Stiuartas Raselas (Stuart Jonathan Russell, g. 1962 m.) - britų kompiuterininkas, žinomas indėliu į dirbtinį intelektą. Dabar profesoriauja Kalifornijos un-te. Yra aktyvus judėjimo prieš autonominius ginklus narys. Pasisakė dokumentiniame filme „Ar pasitikite kompiuteriais?“ (2018). 2023 m. pasirašė atvirą Ateities gyvenimo ins-to laišką, raginantį bent 6 mėn. sustabdyti visų DI sistemų, galingesnių nei GPT-4, apmokymą. Išleido vadovėlį „Dirbtinis intelektas: šiuolaikinis požiūris“ (1995, 4-as leidimas 2020; kartu su P. Norvig’u) bei kitas knygas.