Stríð reiknirita

Þegar kemur að notkun gervigreindar í hernum vaknar strax martröð vísindaskáldskapar, uppreisnargjarnt og banvænt gervigreind sem rís gegn mannkyninu til að eyða því. Því miður er ótti hersins og leiðtoga um að „óvinurinn muni ná okkur“ jafn sterkur í þróun hernaðaralgríma.

Algorithmic Warfaresem að margra mati gæti í grundvallaratriðum breytt ásýnd vígvallarins eins og við þekkjum hann, aðallega vegna þess að hernaður yrði hraðari, langt á undan getu fólks til að taka ákvarðanir. bandarískur hershöfðingi Jack Shanahan (1), yfirmaður US Joint Center for Artificial Intelligence, leggur hins vegar áherslu á að áður en gervigreind er tekin inn í vopnabúr verðum við að tryggja að þessi kerfi séu enn undir mannlegri stjórn og byrji ekki stríð af sjálfu sér.

„Ef óvinurinn hefur vélar og reiknirit, munum við tapa þessum átökum“

Akstursgeta reiknirit stríðs byggir á notkun framfara í tölvutækni á þremur meginsviðum. Fyrst áratuga veldisvexti í tölvuorkuþetta hefur bætt árangur vélanáms til muna. Í öðru lagi örum vexti auðlinda „Stór gögn“, það er að segja risastór, venjulega sjálfvirk, stýrð og stöðugt búin til gagnasöfn sem henta fyrir vélanám. Þriðja varðar hröð þróun á tölvuskýjatækni, þar sem tölvur geta auðveldlega nálgast gagnaauðlindir og unnið úr þeim til að leysa vandamál.

Stríðsreikniriteins og það er skilgreint af sérfræðingunum, verður fyrst að tjá sig með tölvukóða. Í öðru lagi verður það að vera afleiðing af vettvangi sem getur bæði safnað upplýsingum og tekið ákvarðanir, tekið ákvarðanir sem, að minnsta kosti fræðilega, krefjast ekki mannleg afskipti. Í þriðja lagi, sem virðist augljóst, en ekki endilega svo, því það er aðeins í verki sem það kemur í ljós hvort tækni sem ætluð er fyrir eitthvað annað getur verið gagnleg í stríði og öfugt, hún verður að geta virkað við aðstæður. vopnuð átök.

Greining á ofangreindum leiðbeiningum og samspili þeirra sýnir það reiknirit stríðs það er ekki sérstök tækni eins og td. orkuvopn eða háhljóðseldflaugar. Áhrif þess eru víðtæk og eru smám saman að verða alls staðar í stríðsátökum. Í fyrsta skipti her ökutæki þeir verða gáfaðir, sem hugsanlega gera varnarliðið sem innleiðir þær skilvirkari og skilvirkari. Slíkar greindar vélar hafa skýrar takmarkanir sem þarf að skilja vel.

"" sagði Shanahan síðasta haust í viðtali við fyrrverandi forstjóra Google, Eric Schmidt, og varaforseta Google í alþjóðamálum, Kent Walker. "".

Í drögum að skýrslu bandaríska þjóðaröryggisráðsins um gervigreind er vísað til Kína oftar en 50 sinnum og undirstrikað opinbert markmið Kína um að verða leiðandi í gervigreind í heiminum fyrir árið 2030 (sjá einnig: ).

Þessi orð voru sögð í Washington á sérstakri ráðstefnu sem fór fram eftir að fyrrnefnd Shanakhan Center kynnti þinginu bráðabirgðaskýrslu sína, unnin í samvinnu við þekkta sérfræðinga á sviði gervigreindar, þar á meðal rannsóknarstjóra Microsoft, Eric Horwitz, forstjóra AWS, Andy Jassa og forstjóra AWS. Andrew Moore, aðalrannsakandi Google Cloud. Lokaskýrsla verður birt í október 2020.

Starfsmenn Google mótmæla

Fyrir nokkrum árum kom Pentagon inn í málið. reiknirit stríðs og fjölda gervigreindartengdra verkefna undir Maven verkefninu, byggt á samstarfi við tæknifyrirtæki, þar á meðal Google og sprotafyrirtæki eins og Clarifai. Það snerist aðallega um að vinna að gervigreindtil að auðvelda auðkenningu á hlutum á.

Þegar vitað var um þátttöku Google í verkefninu vorið 2018 skrifuðu þúsundir starfsmanna Mountain View risans undir opið bréf þar sem þeir mótmæltu þátttöku fyrirtækisins í stríðsátökum. Eftir margra mánaða vinnuóeirð Google hefur tekið upp sitt eigið sett af reglum fyrir gervigreindsem felur í sér bann við þátttöku í viðburðum.

Google hefur einnig skuldbundið sig til að klára Project Maven samninginn fyrir lok árs 2019. Útgangur Google batt ekki enda á Project Maven. Það var keypt af Peter Thiel's Palantir. Flugherinn og bandaríska landgönguliðið ætla að nota sérstaka ómannaða loftfara, eins og Global Hawk, sem hluta af Maven verkefninu, sem hvert um sig á að fylgjast með allt að 100 ferkílómetrum sjónrænt.

Í tilefni af því sem er að gerast í kringum Project Maven varð ljóst að bandaríski herinn þarf brýn á sínu eigin skýi að halda. Þetta sagði Shanahan á ráðstefnunni. Þetta var augljóst þegar flytja þurfti myndbandsupptökur og kerfisuppfærslur til hernaðarmannvirkja á víð og dreif um völlinn. Í byggingu sameinað tölvuský, sem mun hjálpa til við að leysa vandamál af þessu tagi, sem hluti af sameinuðu upplýsingatækni innviðaverkefni fyrir Jedi herinn, Microsoft, Amazon, Oracle og IBM. Google er ekki vegna siðareglur þeirra.

Það er ljóst af yfirlýsingu Shanahan að hin mikla gervigreindarbylting í hernum er aðeins að hefjast. Og hlutverk miðstöðvar þess í bandaríska hernum fer vaxandi. Þetta sést greinilega í áætlaðri JAIC fjárhagsáætlun. Árið 2019 nam það tæpum 90 milljónum dollara. Árið 2020 ætti það nú þegar að vera 414 milljónir dala, eða um 10 prósent af 4 milljarða dala AI fjárhagsáætlun Pentagon.

Vélin þekkir uppgefinn hermann

Bandarískir hermenn eru nú þegar búnir kerfum eins og Phalanx (2), sem er tegund sjálfstætt vopna sem notuð eru á skipum bandaríska sjóhersins til að ráðast á flugskeyti sem berast. Þegar eldflaug greinist kviknar það sjálfkrafa og eyðileggur allt sem á vegi þess verður. Að sögn Ford getur hann gert árás með fjórum eða fimm flugskeytum á hálfri sekúndu án þess að þurfa að fara í gegn og skoða hvert skotmark.

Annað dæmi er hálfsjálfráða Harpy (3), ómannað kerfi í atvinnuskyni. Harpan er notuð til að eyða ratsjám óvina. Til dæmis, árið 2003, þegar Bandaríkin hófu árás á Írak sem var með loftborið ratsjárhlerunarkerfi, hjálpuðu ísraelskir drónar að finna og eyða þeim svo að Bandaríkjamenn gætu örugglega flogið inn í íraska lofthelgi.

3. Sjósetja dróna IAI Harpy kerfisins

Annað vel þekkt dæmi um sjálfstæð vopn er Kóreskt Samsung SGR-1 kerfi, sem staðsett er á herlausa svæðinu milli Norður- og Suður-Kóreu, hannað til að bera kennsl á og skjóta boðflenna í allt að fjögurra kílómetra fjarlægð. Samkvæmt lýsingunni getur kerfið "greint á milli þess sem gefur upp og þess sem gefur ekki upp" út frá stöðu handa eða viðurkenningu á stöðu vopns í höndum þeirra.

4. Sýning á uppgötvun hermanns sem gefst upp með Samsung SGR-1 kerfinu

Bandaríkjamenn eru hræddir um að vera skildir eftir

Eins og er, nota að minnsta kosti 30 lönd um allan heim sjálfvirk vopn með mismunandi stigum þróunar og notkunar gervigreindar. Kína, Rússland og Bandaríkin líta á gervigreind sem ómissandi þátt í að byggja upp framtíðarstöðu sína í heiminum. „Sá sem vinnur gervigreindarkapphlaupið mun stjórna heiminum,“ sagði Vladimir Pútín Rússlandsforseti við nemendur í ágúst 2017. Forseti Alþýðulýðveldisins Kína, Xi Jinping, hefur ekki gefið jafn áberandi yfirlýsingar í fjölmiðlum, en hann er helsti drifkraftur tilskipunarinnar sem krefst þess að Kína verði ráðandi afl á sviði gervigreindar árið 2030.

Vaxandi áhyggjur eru í Bandaríkjunum af „gervihnattaáhrifum“ sem hafa sýnt að Bandaríkin eru afar illa í stakk búin til að takast á við nýjar áskoranir sem felast í gervigreind. Og þetta getur verið hættulegt fyrir friðinn, þó ekki væri nema vegna þess að landið sem ógnað er af yfirráðum gæti viljað útrýma hernaðarlegum forskoti óvinarins á annan hátt, það er með stríði.

Þótt upphaflegi tilgangurinn með Maven verkefninu hafi verið að hjálpa til við að finna íslamska ISIS bardagamenn, er þýðing þess fyrir frekari þróun hernaðargervigreindarkerfa gríðarleg. Rafræn hernaður byggður á upptökutækjum, skjám og skynjurum (þar á meðal farsíma, fljúgandi) tengist gríðarlegum fjölda misleitra gagnaflæðis, sem aðeins er hægt að nota á áhrifaríkan hátt með hjálp gervigreindar reiknirit.

Blendingsvígvöllurinn er orðinn hernaðarútgáfa af IoT, ríkur af mikilvægum upplýsingum til að meta taktískar og stefnumótandi ógnir og tækifæri. Að geta stjórnað þessum gögnum í rauntíma hefur mikla ávinning, en það getur verið hörmulegt að læra ekki af þessum upplýsingum. Hæfni til að vinna fljótt úr flæði upplýsinga frá ýmsum kerfum sem starfa á nokkrum sviðum veitir tvo helstu hernaðarlega kosti: hraði i aðgengi. Gervigreind gerir þér kleift að greina dýnamískar aðstæður á vígvellinum í rauntíma og slá hratt og ákjósanlega, á sama tíma og þú lágmarkar áhættuna fyrir eigin herafla.

Þessi nýi vígvöllur er líka alls staðar nálægur og. Gervigreind er kjarninn í svokölluðum drónasveimum sem hafa fengið mikla athygli undanfarin ár. Með hjálp alls staðar nálægra skynjara gerir drónum ekki aðeins kleift að sigla um fjandsamlegt landslag, heldur getur það á endanum leyft myndun flókinna mynda ýmissa tegunda ómannaðra loftfara sem starfa á mörgum svæðum, með viðbótarvopnum sem gera háþróaðri bardagaaðferðum kleift að laga sig strax að óvinur. hreyfingar til að nýta vígvöllinn og tilkynna um breyttar aðstæður.

Framfarir í miðun og siglingum með hjálp gervigreindar eru einnig að bæta möguleika á skilvirkni í fjölmörgum taktískum og stefnumótandi varnarkerfum, sérstaklega eldflaugavörnum, með því að bæta aðferðir við að greina, rekja og bera kennsl á skotmörk.

eykur stöðugt kraft uppgerða og leikjatóla sem notuð eru til að rannsaka kjarnorkuvopn og hefðbundin vopn. Massalíkön og uppgerð verða nauðsynleg til að þróa alhliða margra lénskerfi markkerfa fyrir bardagastjórnun og flókin verkefni. Gervigreind auðgar einnig samskipti margra aðila (5). Gervigreind gerir leikmönnum kleift að bæta við og breyta leikbreytum til að kanna hvernig kraftmikil skilyrði (vopnabúnaður, þátttaka bandamanna, viðbótarhermenn osfrv.) geta haft áhrif á frammistöðu og ákvarðanatöku.

Fyrir herinn er hlutgreining eðlilegur upphafspunktur gervigreindar. Í fyrsta lagi þarf yfirgripsmikla og hraða greiningu á vaxandi fjölda mynda og upplýsinga sem safnað er úr gervihnöttum og drónum til að finna hluti sem hafa hernaðarlega þýðingu, svo sem flugskeyti, herliðshreyfingar og önnur upplýsingatengd gögn. Í dag spannar vígvöllurinn allt landslag — sjó, land, loft, geim og netheim — á heimsvísu.

Netheimasem í eðli sínu stafrænt lén hentar það náttúrulega gervigreindarforritum. Á móðgandi hliðinni getur gervigreind hjálpað til við að finna og miða á einstaka nethnúta eða einstaka reikninga til að safna, trufla eða misupplýsa. Netárásir á innri innviði og stjórnkerfi geta verið hörmulegar. Hvað varnir varðar getur gervigreind hjálpað til við að greina slík innbrot og finna eyðileggjandi frávik í borgaralegum og hernaðarlegum stýrikerfum.

Væntanlegur og hættulegur hraði

Hins vegar getur skjót ákvörðunartaka og skjót framkvæmd ekki þjónað þér vel. fyrir skilvirka hættustjórnun. Kostir gervigreindar og sjálfstýrðra kerfa á vígvellinum gefa kannski ekki tíma fyrir diplómatíu, sem eins og við þekkjum úr sögunni hefur oft tekist vel sem leið til að koma í veg fyrir eða stjórna kreppu. Í reynd getur hægja á hraðanum, hlé og tími til að semja verið lykillinn að sigri, eða að minnsta kosti afstýra hörmungum, sérstaklega þegar kjarnorkuvopn eru í húfi.

Ákvarðanir um stríð og frið er ekki hægt að fela forspárgreiningum. Það er grundvallarmunur á því hvernig gögn eru notuð í vísindalegum, efnahagslegum, skipulagslegum og forspárlegum tilgangi. mannlega hegðun.

Sumir gætu litið á gervigreind sem afl sem veikir gagnkvæmt stefnumótandi næmi og eykur þannig hættuna á stríði. Skemmd gögn fyrir slysni eða viljandi geta leitt til þess að gervigreindarkerfi framkvæmi óviljandi aðgerðir, svo sem að ranggreina og miða á röng skotmörk. Hraði aðgerða sem settur er fram þegar um er að ræða þróun stríðsreiknirita getur þýtt ótímabæra eða jafnvel óþarfa stigmögnun sem hindrar skynsamlega stjórnun kreppunnar. Á hinn bóginn munu reiknirit heldur ekki bíða og útskýra, því einnig er búist við að þau séu hröð.

Truflandi þáttur virkni gervigreindar reiknirit einnig kynnt af okkur nýlega í MT. Jafnvel sérfræðingar vita ekki nákvæmlega hvernig gervigreind leiðir til þeirra niðurstaðna sem við sjáum í framleiðslunni.

Þegar um stríðsreiknirit er að ræða, höfum við ekki efni á slíkri fáfræði um náttúruna og hvernig hún „hugsar“ hana. Við viljum ekki vakna um miðja nótt við kjarnorkublys vegna þess að gervigreind „okkar“ eða „þeirra“ hefur ákveðið að það sé kominn tími til að gera endanlega út um leikinn.