Hryðjuverkaskápur

Uppgangur vélanna og valdatöku gervigreindar. Heimur algjörs eftirlits og félagslegrar eftirlits. Kjarnorkustríð og úrkynjun siðmenningar. Margar myrkar framtíðarsýn, teiknaðar fyrir mörgum árum, hefðu átt að gerast í dag. Og á meðan lítum við til baka og það virðist sem þeir hafi ekki verið þar. Ertu viss?

Það er nokkuð staðalímynduð efnisskrá af vinsælum dystópískir spádómar (um svarta framtíðarsýn). Til viðbótar við þær algengustu sem tengjast eyðingu náttúrulegs umhverfis og auðlinda er almennt talið að nýjasta tæknin skaði mannleg samskipti, sambönd og samfélag.

Sýndarrými mun á blekkjandi hátt koma í stað raunverulegrar þátttöku í heiminum. Önnur dystópísk viðhorf líta á tækniþróun sem leið til að auka félagslegan ójöfnuð, sameina völd og auð í höndum lítilla hópa. Miklar kröfur nútímatækni safna þekkingu og færni í þrönga hringi forréttinda einstaklinga, auka eftirlit með fólki og eyðileggja friðhelgi einkalífsins.

Að mati margra framtíðarfræðinga getur meiri framleiðni og meira sýnilegt val skaðað lífsgæði mannsins með því að valda streitu, stofna störfum í hættu og gera okkur sífellt efnislegri um heiminn.

Einn af frægu tæknilegu "dystópunum", James Gleick, gefur að því er virðist léttvægt dæmi um sjónvarpsfjarstýringu sem klassíska uppfinningu sem leysir ekki eitt verulegt vandamál og gefur tilefni til margra nýrra. Gleick og vitnar í tæknisagnfræðing Edward Tenner, skrifar að möguleikinn og einfaldleikinn við að skipta um rás með fjarstýringunni þjóni fyrst og fremst til að trufla áhorfandann meira og meira.

Í stað ánægju er fólk sífellt óánægt með þær rásir sem það horfir á. Í stað þess að mæta þörfum er tilfinning um endalaus vonbrigði.

Munu bílar halda okkur á pöntunum?

Náum við að stjórna þessu sem er óumflýjanlegt og kemur væntanlega fljótlega? Yfir gervigreind? Ef þetta á að vera raunin, eins og margar dystópískar sýn boða, þá nei. (1).

Það er erfitt að stjórna einhverju sem er margfalt sterkara en við. með fjölgun verkefna. Fyrir tuttugu árum hefði enginn trúað því að þeir gætu lesið tilfinningar í rödd manns og andlit mun nákvæmari en við sjálf getum. Á sama tíma eru þjálfaðir reiknirit nú þegar færir um að gera þetta, greina svipbrigði, tónhljóm og hvernig við tölum.

Tölvur teikna myndir, semja tónlist og ein þeirra vann meira að segja ljóðasamkeppni í Japan. Þeir hafa lengi barið menn í skák, lært leikinn frá grunni. Sama á við um mun flóknari leik Go.

það hlýðir lögmálum sífellt hraðari hröðunar. Það sem gervigreind hefur áorkað - með hjálp manna - á undanförnum áratugum mun tvöfaldast á næstu árum, kannski bara mánuðum, og þá mun það taka aðeins vikur, daga, sekúndur...

Eins og það kom í ljós nýlega geta reiknirit sem notuð eru í snjallsímum eða á flugvöllum til að greina myndir frá alls staðar nálægum myndavélum ekki aðeins þekkt einhvern í mismunandi ramma, heldur einnig ákvarðað eingöngu náinn sálfræðilegan eiginleika. Að segja að þetta sé mikil persónuverndaráhætta er eins og að segja ekki neitt. Þetta snýst ekki um einfalt eftirlit, að fylgjast með hverju skrefi, heldur um upplýsingar sem koma upp vegna útlits manns, um huldar langanir hans og persónulegar óskir. 

Reiknirit geta lært þetta tiltölulega fljótt með því að greina hundruð þúsunda tilvika, sem er miklu meira en jafnvel glöggustu manneskja getur séð á ævinni. Vopnaðir með svo mikla reynslu, geta þeir skannað mann nákvæmari en jafnvel reyndasti sálfræðingur, líkamstjáningur og látbragðsfræðingur.

Þannig að hin raunverulega kaldhæðni dystópía er ekki sú að tölvur tefla eða fara á móti okkur, heldur að þær geti séð sál okkar dýpra en nokkurn annan en við sjálf, fullar af bönnum og hindrunum við að þekkja þessar eða aðrar tilhneigingar.

Elon Musk trúir því að þegar gervigreind kerfi byrja að læra og rökræða á sívaxandi mælikvarða gæti „greind“ þróast einhvers staðar djúpt í veflögum, ómerkjanlegt fyrir okkur.

Samkvæmt bandarískri rannsókn sem birt var árið 2016, á næstu 45 árum, hefur gervigreind 50 prósent líkur á að fara fram úr mönnum í öllum verkefnum. Spámenn segja að já, gervigreind muni leysa krabbameinsvandann, bæta og flýta fyrir efnahagslífinu, veita skemmtun, bæta lífsgæði og endingu, mennta okkur svo að við getum ekki lifað án þess, en það er mögulegt að einn dagur, án hatur, aðeins fyrir að byggja á rökréttum útreikningum, það fjarlægir okkur bara. Kannski virkar það líkamlega ekki, því í hverju kerfi er það þess virði að vista, geyma og geyma tilföng sem „gæti komið sér vel einhvern tíma.“ Já, þetta er auðlindin sem við getum verið fyrir gervigreind. Verndaður mannafla?

Bjartsýnismenn hugga sig við það að alltaf er tækifæri til að draga klóið úr innstungunni. Hins vegar er ekki allt svo einfalt. Nú þegar er mannlífið orðið svo háð tölvum að róttækt skref gegn þeim væri hörmung fyrir okkur.

Þegar öllu er á botninn hvolft erum við í auknum mæli að búa til ákvarðanatökukerfi sem byggja á gervigreind, gefa þeim rétt til að fljúga flugvélum, ákveða vexti, reka virkjanir - við vitum að reiknirit munu gera það miklu betur en við. Á sama tíma skiljum við ekki alveg hvernig þessar stafrænu ákvarðanir eru teknar.

Óttast er að ofurgreind stjórnkerfi eins og "minnka þrengsli" geti leitt þá ályktun að eina árangursríka leiðin til að vinna verkið sé að... fækka íbúum um þriðjung eða jafnvel helming.

Já, það er þess virði að gefa vélinni mikilvægustu leiðbeiningarnar eins og "Bjargaðu fyrst mannslífi!". Hins vegar, hver veit hvort þá stafræn rökfræði muni leiða til fangelsunar mannkyns eða undir hlöðu, þar sem við getum verið örugg, en vissulega ekki frjáls.

Netglæpi sem þjónusta

Áður fyrr voru dystópíur og ímyndir um heiminn eftir heimsenda í bókmenntum og kvikmyndum venjulega á tímum eftir kjarnorku. Í dag virðist kjarnorkueyðing ekki nauðsynleg fyrir hörmungar og eyðileggingu heimsins eins og við þekkjum hann, þó ekki eins og við ímyndum okkur að hann sé. , það er ólíklegt að það eyði heiminum eins og í "Terminator", þar sem það var sameinað kjarnorkueyðingu. Ef hún gerði það væri hún ekki ofurgreind, heldur frumstætt afl. Þegar öllu er á botninn hvolft hefur jafnvel mannkynið ekki enn áttað sig á þeirri alþjóðlegu atburðarás hrikalegra kjarnorkuátaka.

Raunverulegur vélaheimild getur verið mun minna áhrifamikill.

Nethernaður, vírusárásir, kerfishökk og lausnarhugbúnaður, lausnarhugbúnaður (2) lamar og eyðileggur heiminn okkar ekki síður á áhrifaríkan hátt en sprengjur. Ef umfang þeirra stækkar gætum við farið inn í áfanga allsherjarstríðs þar sem við verðum fórnarlömb og gíslar véla, þó að þeir þurfi ekki að starfa sjálfstætt, og það er mögulegt að fólk standi enn á bak við allt.

Síðasta sumar nefndi bandaríska net- og innviðaöryggisstofnunin (CISA) lausnarhugbúnaðarárásir „sýnilegustu netöryggisógnina“.

CISA heldur því fram að aldrei sé tilkynnt um margar athafnir þar sem netglæpamaður hlerar og dulkóðar gögn einstaklings eða stofnunar og kúgar síðan til lausnargjalds vegna þess að fórnarlambið greiðir netglæpamönnum og er ekki tilbúið að kynna vandamál með óörugg kerfi þeirra. Á örstigi miða netglæpamenn oft á eldra fólk sem á í vandræðum með að greina á milli heiðarlegs og óheiðarlegs efnis á netinu. Þeir gera þetta með spilliforritum sem er fellt inn í tölvupóstviðhengi eða sprettiglugga á sýktri vefsíðu. Á sama tíma fjölgar árásum á stórfyrirtæki, sjúkrahús, ríkisstofnanir og stjórnvöld.

Þeir síðarnefndu voru sérstaklega skotnir vegna viðkvæmra gagna sem þeir geymdu og getu til að greiða háar lausnargjöld.

Sumar upplýsingar, eins og heilsufarsupplýsingar, eru eigandanum mun verðmætari en aðrar og geta aflað glæpamanna meiri peninga. Þjófar geta stöðvað eða sett stórar blokkir af klínískum gögnum sem eru mikilvægar fyrir umönnun sjúklinga í sóttkví, svo sem niðurstöður úr prófum eða lyfjaupplýsingar. Þegar lífið er í húfi er ekkert pláss fyrir samninga á spítalanum. Eitt af bandarísku sjúkrahúsunum var lokað fyrir fullt og allt í nóvember á síðasta ári eftir hryðjuverkaárásina í ágúst.

Það mun líklega bara versna með tímanum. Árið 2017 tilkynnti bandaríska heimavarnarráðuneytið að netárásir gætu beinst að mikilvægum innviðum eins og vatnsveitum. Og verkfærin sem þarf til að framkvæma slíkar aðgerðir eru í auknum mæli í boði fyrir smærri rekstraraðila, sem þeir selja lausnarvörubúnta eins og Cerber og Petya hugbúnað og rukka lausnargjald eftir vel heppnaðar árásir. Byggt á netglæpum sem þjónustu.

Hættuleg röskun í erfðamengi

Eitt af vinsælustu umræðuefnum dystópíu er erfðafræði, DNA meðferð og ræktun fólks - auk þess "forritað" á réttan hátt (yfirvöld, fyrirtæki, her).

Nútíma útfærsla þessara kvíða er aðferð til vinsælda CRISPR genabreyting (3). Aðgerðirnar sem það inniheldur eru fyrst og fremst áhyggjuefni. þvinga fram æskilegar aðgerðir á næstu kynslóðum og möguleikar þeirra dreifast til alls íbúa. Einn af uppfinningamönnum þessarar tækni, Jennifer Doudna, jafnvel nýlega hvatt til stöðvunar á slíkri "kímlínu" klippitækni vegna hugsanlegra hörmulegra afleiðinga.

Mundu að fyrir nokkrum mánuðum, kínverskur vísindamaður Á Jiankui hefur verið harðlega gagnrýnd fyrir að breyta genum mannafósturvísa til að bólusetja þá gegn alnæmisveirunni. Ástæðan var sú að breytingarnar sem hann gerði gætu borist kynslóð fram af kynslóð með ófyrirsjáanlegum afleiðingum.

Sérstaklega áhyggjuefni er hið svokallaða d (gena umritun, genadrif), þ.e. erfðabreytt vélbúnaður sem kóðar klippikerfi í DNA tiltekins einstaklings CRISPR/CAS9 erfðamengi með því að stilla það til að breyta þessu afbrigði af óæskilega geninu. Vegna þessa skrifa afkomendur sjálfkrafa (án þátttöku erfðafræðinga) yfir óæskilega genaafbrigðið með því sem óskað er eftir.

Hins vegar getur óæskilegt genaafbrigði fengið afkvæmi „sem gjöf“ frá óbreyttu öðru foreldri. Svo genadrif skulum brjóta Mendelísk lögmál erfðasem segja að helmingur ríkjandi gena fari til afkvæma frá öðru foreldri. Í stuttu máli mun þetta á endanum leiða til útbreiðslu umrædds genaafbrigðis til alls stofnsins.

Líffræðingur við Stanford háskóla Christina Smolke, aftur á pallborði um erfðatækni árið 2016, varaði við því að þetta fyrirkomulag gæti haft skaðlegar og, í öfgafullum tilfellum, skelfilegar afleiðingar. Genadrifið er fær um að stökkbreytast þegar það fer í gegnum kynslóðirnar og valda erfðasjúkdómum eins og dreyrasýki eða dreyrasýki.

Eins og við lesum í grein sem birt var í Nature Reviews eftir vísindamenn við Kaliforníuháskóla í Riverside, jafnvel þótt akstur virki eins og ætlað er í einum stofni lífveru, getur sami arfgengi eiginleiki verið skaðlegur ef hann er einhvern veginn færður inn í annan stofn. . sama útlitið.

Einnig er hætta á að vísindamenn búi til genadrif á bak við luktar dyr og án ritrýni. Ef einhver kemur viljandi eða óviljandi inn skaðlegum genadrif í erfðamengi mannsins, eins og það sem eyðir þol okkar gegn inflúensu, gæti það jafnvel þýtt endalok homo sapiens tegundarinnar...

Eftirlitskapítalismi

Útgáfa af dystópíu sem fyrrum vísindaskáldsagnahöfundar gátu varla ímyndað sér er raunveruleiki internetsins, og þá sérstaklega samfélagsmiðla, með öllum sínum víðfrægu afleiðingum sem eyðileggja friðhelgi einkalífs, sambönd og sálræn heilindi fólks.

Þessi heimur er aðeins málaður í nýrri listflutningum, eins og því sem við gátum séð í Black Mirror seríunni í 2016 þættinum „The Diving“ (4). Shoshana Zuboff, hagfræðingur frá Harvard, kallar þennan raunveruleika algjörlega háðan félagslegri sjálfsstaðfestingu og algjörlega „afsviptaðan“. eftirlitskapítalismi (), og um leið krúnuverk Google og Facebook.

4. Atriði úr "Black Mirror" - þáttur "Diving"

Samkvæmt Zuboff er Google fyrsti uppfinningamaðurinn. Þar að auki er það stöðugt að auka eftirlitsstarfsemi sína, til dæmis með að því er virðist saklausum „snjallborgum“ verkefnum. Sem dæmi má nefna verkefni heimsins frumlegasta hverfi á vegum Sidewalk Labs, dótturfyrirtækis Google. bryggju í Toronto.

Google ætlar að safna öllum minnstu gögnum um líf íbúa við sjávarsíðuna, hreyfingu þeirra og jafnvel öndun með hjálp alls staðar nálægra eftirlitsskynjara.

Það er líka erfitt að velja dystópíu á netinu sem kemur ekki til greina á Facebook. Eftirlitskapítalismi gæti hafa verið fundinn upp af Google, en það var Facebook sem tók það upp á nýtt stig. Þetta var gert með félagslegum og tilfinningalegum veiruaðferðum og miskunnarlausum ofsóknum gegn jafnvel þeim sem eru ekki notendur Zuckerberg vettvangsins.

Varið gervigreind, á kafi í sýndarveruleika, býr með UBI

Samkvæmt mörgum framtíðarfræðingum er framtíð heimsins og tækni tilgreind með fimm skammstöfunum - AI, AR, VR, BC og UBI.

Lesendur "MT" vita líklega vel hvað þeir eru og í hverju þeir fyrstu þrír samanstanda. Hið kunnuglega reynist líka vera það fjórða, "BC", þegar við skiljum um hvað það snýst. Og sú fimmta? UBD er skammstöfun á hugtakinu, sem þýðir "almennar grunntekjur » (5). Þetta er almannahagsmunur, sem er settur fram af og til, sem verður veittur hverjum einstaklingi sem losnar úr vinnu eftir því sem önnur tækni þróast, sérstaklega gervigreind.

5. Almennar grunntekjur - UBI

Svisslendingar settu hugmyndina meira að segja í þjóðaratkvæðagreiðslu á síðasta ári en borgarar höfnuðu henni af ótta við að innleiðing tryggðra tekna myndi leiða til innflytjendaflóðs. UBI hefur einnig í för með sér ýmsar aðrar hættur, þar á meðal hættu á að viðhalda núverandi félagslegu misrétti.

Hver tæknibyltingin á bak við skammstöfunina (sjá einnig:) - ef hún dreifist og þróast í þá átt sem búist er við - hefur gríðarlegar afleiðingar fyrir mannkynið og heiminn okkar, þar á meðal auðvitað stóran skammt af dystópíu. Til dæmis er talið að það gæti komið í stað fjögurra ára kosningalota og leitt til þjóðaratkvæðagreiðslu um ótal mál.

Sýndarveruleiki er aftur á móti fær um að „útiloka“ hluta mannkyns frá hinum raunverulega heimi. Eins og það gerðist til dæmis með Kóreumanninn Jang Ji Sung, sem eftir dauða dóttur sinnar árið 2016 úr ólæknandi sjúkdómi hefur síðan hitt avatar sinn í VR. Sýndarrýmið skapar líka nýjar tegundir af vandamálum, eða flytur í raun öll gömlu þekktu vandamálin yfir í „nýja“ heiminn, eða jafnvel í marga aðra heima. Að einhverju leyti sjáum við þetta nú þegar á samfélagsmiðlum þar sem það gerist að of lítið líkar við færslur leiðir til þunglyndis og sjálfsvíga.

Spámannlegar sögur meira og minna

Þegar öllu er á botninn hvolft kennir sagan um sköpun dystópískra sýna einnig varkárni við að móta spár.

6. Forsíða "Eyjar í Netinu"

Hið fræga sci-fi meistaraverk Ridley Scott var tekið upp á síðasta áriAndroid veiðimaður» Síðan 1982. Það er hægt að ræða uppfyllingu eða ekki margra tiltekinna þátta, en það er óumdeilanlegt að mikilvægasti spádómurinn um tilvist á okkar tímum gáfuðra, manngerða androids, að mörgu leyti æðri mönnum, hefur ekki enn orðið að veruleika.

Við værum tilbúin til að þola mörg fleiri spámannleg högg.“Taugalæknar»e.a.s skáldsögur William Gibson síðan 1984, sem gerði hugtakið "netrými" vinsælt.

Samt sem áður, á þeim áratug, birtist aðeins minna þekkt bók (nánast alveg í okkar landi, því hún var ekki þýdd á pólsku), sem spáði miklu nákvæmari fyrir um tíma dagsins. Ég er að tala um rómantíkEyjar á vefnum"(6) Bruce Sterling síðan 1988, sett árið 2023. Það sýnir heim sem er sökkt í eitthvað svipað og internetið, þekktur sem „vefurinn“. Það er stjórnað af stórum alþjóðlegum fyrirtækjum. „Eyjar á Netinu“ eru merkilegar að því leyti að þær veita eftirlit, eftirlit og einokun á hinu meinta ókeypis interneti.

Það er líka áhugavert að sjá fyrir bardagaaðgerðir sem gerðar eru með ómönnuðum flugvélum (drónum) gegn sjóræningjum/hryðjuverkamönnum á netinu. Rekstraraðilar þúsundir kílómetra í burtu með öruggum skjáborðum - hvernig vitum við það? Bókin fjallar ekki um endalaus átök við íslömsk hryðjuverk, heldur um baráttuna við öflin sem eru á móti hnattvæðingunni. Heimur Islands in the Net er líka fullur af neytendatækjum sem líkjast mjög snjallúrum og snjöllum íþróttaskóm.

Það er önnur bók frá níunda áratugnum sem, þó að sumir atburðanna virðist stórkostlegri, skilar vel í að sýna dystópískan ótta okkar nútímans. þetta"Georadar hugbúnaður“, Saga Rudy Rookersett árið 2020. Heimurinn, ástand samfélagsins og átök þess virðast ótrúlega lík því sem við erum að fást við í dag. Það eru líka til vélmenni sem kallast boppers sem hafa öðlast sjálfsvitund og flúið til borga á tunglinu. Þessi þáttur hefur ekki enn orðið að veruleika, en uppreisn vélanna er að verða stöðugt viðkvæði svartra spára.

Sýnir okkar tíma í bókunum eru líka sláandi nákvæmar á margan hátt. Octavia Butler, sérstaklega íDæmisögur um sáðmanninn» (1993). Aðgerðin hefst árið 2024 í Los Angeles og gerist í Kaliforníu, eyðilögð af flóðum, stormum og þurrkum af völdum loftslagsbreytinga. Fjölskyldur milli- og verkamannastétta hittast í lokuðum samfélögum þegar þær reyna að flýja umheiminn með ávanabindandi lyfjum og sýndarveruleikasettum. Ný trúarbrögð og samsæriskenningar eru að koma fram. Flóttamannahjólhýsið heldur norður til að forðast vistfræðilegt og félagslegt hrun. Forseti kemst til valda sem notar slagorð kosningabaráttunnar „Make America Great Again“ (þetta er slagorð Donald Trump) ...

Önnur bók Butlers, "Dæmisaga um hæfileikanasegir frá því hvernig meðlimir nýrrar trúardýrkunar yfirgefa jörðina í geimskipi til að koma Alpha Centauri í nýlendu.

***

Hver er lærdómurinn af þessari umfangsmiklu könnun á spám og framtíðarsýn sem gerð var fyrir nokkrum áratugum og varða daglegt líf okkar?

Sennilega er staðreyndin sú að dystópíur koma oft fyrir, en oftast aðeins að hluta.