Temna stran strojnega učenja in umetne inteligence

Od odkrivanja intimnih in neprijetnih skrivnosti do posnemanja uporabnikov – strojno učenje vam korak za korakom preprečuje skrivanje vaše identitete, hkrati pa vam onemogoča tudi nadzor nad njo in omogoča, da so vam pripisane besede, ki jih niste izrekli, in dejanja, ki jih niste storili.

Tehnologije za strojno učenje in umetno inteligenco so bile večinoma oblikovane in razvite za pozitivne namene, vendar so lahko izrabljene tudi za zlobna dejanja, če pridejo v napačne roke. S tem prispevkom želimo tako opozoriti, da moramo biti ob odkrivanju različnih koristi, ki jih prinaša ta vznemirljiva nova tehnologija, pozorni tudi na potencialne negativne posledice in neželene stranske učinke.

Ko gre tehnologija za prepoznavanje obrazov predaleč

Orodja za prepoznavanje obrazov lahko uporabimo za pozitivne ali negativne namene. (Vir slike: HubSpot)

Nevronske mreže in algoritmi za globoko učenje, ki procesirajo podobe, so izjemna orodja, ki izboljšujejo naše družabne platforme, iskalnike, igralne konzole in mehanizme za overjanje.

Ali pa jih lahko izkoristimo tudi za manj etična dejanja? Aplikacija za prepoznavanje obrazov FindFace je dokazala, da je to mogoče. Aplikacija, ki so jo letos predstavili v Rusiji, omogoča svojim uporabnikom izjemno učinkovito storitev prepoznavanja obrazov, s katero lahko identificirajo vse uporabnike družabnega omrežja VK.com, ki je znano pod vzdevkom »ruski Facebook«. Spletna stran VK.com ima več kot 200 milijonov uporabnikov iz vzhodne Evrope.

Zaradi neomejenega dostopa do ogromne baze podob omrežja VK je aplikacija FindFace hitro postala zanimiva za uporabnike z različnimi nameni. V nekaj tednih od predstavitve je aplikacijo uporabljalo že na sto tisoče ljudi, kmalu pa so se začele širiti tudi govorice, da bodo storitev začeli uporabljati tudi moskovski organi pregona, s čimer bi nadgradili svojo mrežo 150 tisoč nadzornih kamer.

Aplikacijo pa so nekateri uporabniki začeli uporabljati tudi za manj poštene namene, na primer za nadlegovanje nedolžnih žrtev. Pojavlja se tudi vprašanje, ali bodo začeli avtoritarni režimi uporabljati isto tehnologijo za identifikacijo disidentov in protestnikov na shodih in demonstracijah. Razvijalci aplikacije so v intervjuju za britanski Guardian izrazili svojo pripravljenost na sodelovanje z rusko obveščevalno-varnostno službo FSB.

Na spletu lahko sicer najdete nasvete, kako se izogniti prepoznavanju aplikacij za prepoznavanje obrazov, vendar so predlagane poze in koti precej nerodni.

Obstoj aplikacij, kot je FindFace, zato od uporabnikov družabnih omrežij zahteva večjo mero diskretnosti pri objavljanju fotografij, saj se te hitro lahko znajdejo v shrambi katere od storitev za shranjevanje in analizo podatkov, ki temeljijo na strojnem učenju. Kdo ve, kje se lahko v prihodnosti pojavijo vaše fotografije?

Strojno učenje, ki vidi, kaj se skriva za slikovnimi pikami

Tehnike za maskiranje vsebine niso vedno zanesljive. (Vir slike: Picjumbo)

Zamegljevanje in nazobčanje (angl. pixelation) sta razširjeni tehniki za ohranjanje zasebnosti na podobah in v video posnetkih. Na ta načina lahko učinkovito zakrijete obraze, registrske tablice in različne zapise, tako da jih človeško oko ne more prepoznati.

Vendar se zdi, da lahko strojno učenje vidi skozi slikovne pike (angl. pixels).

Univerzitetni raziskovalci so pred kratkim namreč napravo za prepoznavanje podob nadgradili z algoritmom, ki lahko onemogoči varnostne prednosti tehnik za maskiranje vsebine, kot sta zamegljevanje in nazobčanje. Raziskovalci so poudarili, da je odkritje lahko zelo zaskrbljujoče, saj takšno prepoznavanje omogočajo že preproste tehnike strojnega učenja, ki so široko razširjene in dostopne. To pomeni, da bi jih lahko začeli izkoriščati tudi v slabe namene.

Raziskovalci so uporabili omenjeno tehnologijo, da bi opozorili na pomanjkljivosti najbolj razširjenih orodij oziroma tehnik za zamegljevanje podob, kot so YouTubovo orodje za zamegljevanje, standardno nazobčanje in priljubljeno orodje za šifriranje datotek s končnico .jpeg z imenom Privacy Photo Sharing.

Algoritem pravzaprav ne rekonstruira zamegljenega objekta, lahko pa prepozna njegovo zamegljeno podobo, če je fotografija tega objekta v njegovi podatkovni bazi. Po fazi učenja lahko nevronska mreža tudi z 90-odstotno natančnostjo prepoznava obraze, predmete in na roko napisano besedilo.

Cilj raziskovalcev je bil opozoriti vse, ki se ukvarjajo s tehnologijo, na varnostne implikacije naprednega strojnega učenja. Richard McPherson, eden od raziskovalcev, je ob tem opozoril, da bi bile lahko podobne metode uporabljene tudi za obvod tehnik za spreminjanje glasu.

Po besedah znanstvenikov lahko prelisičite identifikacijo zamegljenih delov fotografij s pomočjo strojnega učenja na dva načina: z uporabo črnih pravokotnikov, ki popolnoma zakrijejo dele fotografije, ki jih želite zamegliti, ali s prekritjem teh področij z drugimi nepovezanimi podobami, preden jih zameglite.

Rezultati takšnega poseganja v fotografije sicer verjetno ne bodo tako privlačni, vendar bodo vsaj zagotovo ohranili vašo zasebnost.

Algoritem, ki posnema vašo pisavo

Ponarejanje posameznikove pisave je zelo zapletena naloga, ki tudi najbolj zagretim kriminalcem vzame veliko časa in energije. Računalnik pa potrebuje le nekaj primerov vaše pisave, da razvozla vaš stil pisanja – in ga začne posnemati.

Raziskovalci z University College v Londonu so razvili program, ki se imenuje My Text in Your Handwriting, ki analizira le odstavek na roko zapisanega besedila, nato pa začne sam oblikovati besedilo, ki avtentično posnema pisavo analiziranega besedila.

Opisana tehnika seveda ni brez pomanjkljivosti, saj potrebuje pomoč in izboljšave s strani uporabnikov. Prav tako besedila, zapisana na tak način, ne bodo preslepila forenzikov in drugih strokovnjakov. Vendar pa je to trenutno najbolj natančen približek človeški pisavi.

Ko so umetno pisavo testirali na posameznikih, ki so bili seznanjeni s tehnologijo, jih je preslepila v kar 40 odstotkih primerov. Ta rezultat se bo z razvojem in izboljšavami tehnologije verjetno še izboljševal.

Raziskovalci so predstavili množico situacij, v katerih bi bila predstavljena tehnologija lahko koristna, na primer za pomoč okrevajočim po možganski kapi pri pisanju pisem ali za prevajanje stripov v različne jezike.

Ista tehnologija pa je lahko uporabljena tudi za manj poštene namene, na primer za ponarejanje uradnih in zgodovinskih dokumentov ali za ustvarjanje neresničnih dokazov. Algoritem je bil na primer že uporabljen za pisanje besedil v pisavi Abrahama Lincolna, Fride Kahlo in Arthurja Conana Doyla desetletja oziroma stoletja po njihovi smrti.

Vodja raziskave dr. Tom Haines je v nekem intervjuju priznal, da bi omenjeni algoritem zelo verjetno prelisičil povprečnega človeka, ki nima predhodnega znanja s tega področja.

Strojno učenje, ki vas posnema

Si predstavljate, da bi klepetalni robot lahko posnemal vaše pogovore? (Vir slike: Pixabay)

Klepetalni roboti, ki za razumevanje in uporabo naravnega jezika uporabljajo strojno učenje oziroma umetno inteligenco, so vedno bolj razširjeni in korenito spreminjajo številna področja, med drugim spletne in mobilne storitve za pomoč uporabnikom, napovedovanje vremena, rezervacije, novice in nakupovanje. Prav mogoče je, da bodo v bližnji prihodnosti nadomestili cel kup aplikacij, ki ste jih naložili na svoj pametni telefon.

Klepetalni roboti pa lahko služijo tudi popolnoma drugačnim namenom, kot so pokazala podjetja, kot je Luka. To podjetje, ki ponuja kakovostne klepetalne robote, ki izkoriščajo umetno inteligenco, uporablja tehnologijo za strojno učenje za razvijanje robotov, ki temeljijo na resničnih, živih ali mrtvih ljudeh.

Podjetje Luka je tako pred kratkim predstavilo robota, ki govori tako kot liki iz HBO-jeve serije Silicijeva dolina. Razvijalci so v nevronske mreže, ki poganjajo robote, vključili replike likov iz serije, roboti pa so tako analizirali njihove jezikovne vzorce in se naučili govoriti stvari, ki bi jih lahko izrekli tudi liki.

V še bolj ambicioznem – in strašljivem – projektu je podjetje tehnologijo uporabilo za nekakšno reinkarnacijo mrtve osebe v klepetalnem robotu s pomočjo njenih kratkih sporočil, pogovorov na družabnih omrežjih in drugih virov informacij. Takšna »oživitev« je vedno lažja, saj mlajše generacije ob uporabi interneta ustvarjajo vedno več podatkov.

Medtem ko sta oba opisana primera pravzaprav nenevarna, bi lahko isto tehnologijo izkoristili tudi za posnemanje dejanskih živih oseb, kar je eden od ciljev podjetja Luka. To pomeni, da bi lahko na podlagi podrobne raziskave in nadzora nek hudobnež ustvaril vaš alter ego in vas začel posnemati v spletni komunikaciji.

In če menite, da je vsaj vaš glas še vedno varen, si oglejte Googlovo tehnologijo WaveNet, ki uporablja nevronske mreže za generiranje prepričljivo realističnega glasu. Če to združimo z opisano tehnologijo, ki jo ponuja Luka, bi lahko nekdo v vašem imenu celo klical vaše poslovne partnerje ali druge ljudi.

Se že bojite?

Strojno učenje in umetna inteligenca sta izjemno uporabna, vendar se moramo zavedati njunih potencialnih nezaželenih posledic. (Vir slike: Pixabay)

Vse opisano seveda ne pomeni nujno, da sta strojno učenje in umetna inteligenca zlobni tehnologiji, ki bosta pokopali našo zasebnost in varnost. Prednosti in koristi takšne tehnologije še vedno močno prevladajo nad njenimi potencialnimi negativnimi posledicami.

Kljub temu pa se moramo ob navdušenju in izkoriščanju moči strojnega učenja in umetne inteligence zavedati tudi širših implikacij, ki jih prinaša opisana tehnologija, sploh kar se tiče etike in zasebnosti. S pomočjo strojnega učenja se bo spremenilo marsikaj, kar imamo danes za samoumevno. Smo res pripravljeni na to?

Vir: TechCrunch