Menüü

1. De lege ferenda: kas vajalik debatt või tabu?

Juristi ülesanne on leida lahendusi probleemidele ja küsimustele, mis takistavad kehtivas seadusraamistikus isikuid nende eesmärkide saavutamisel. Lahenduste otsimise protsessi üheks osaks on ka küsimine selle järele, kas olemasolev õiguskeskkond on üldse piisav lahenduse leidmiseks võivajab see edasiarendust.

Käesoleva artikli eesmärgiks on esitada küsimus, kas tehisintellekti ja robotitega seonduv nõuab positiivse õiguse muutmist või piisab tehnoloogiliste muutustega tegelemiseks olemasolevast normistikust. Seejuures keskendutakse robootika ja tsiviilõiguse kokkupuute vallas vaid kahele teemale: intelligentsetele robotitele esindusõiguse andmise võimalikkusele ja vajalikkusele ning alternatiivselt tahteavalduse kontseptsiooni laiendamisele.

Just nimelt tsiviilõiguses tuleb küsida, kas on vajalik kontseptuaalne muudatus alates süüst, vastutusest ja eetilisest etteheidetavusest teole, kus puudub inimeksimus,võikellele tegu võitegevusetus üldse omistada. Kehtib rahvusvaheliselt tunnustatudpõhimõte, et uus tehnoloogia ei tähenda automaatselt, et olemasolev seadus sellega toime ei tule. *2 Tänapäeval kohanevad paljud sektorid tehnoloogiliste muudatustega, sest olemasolevad seadused võimaldavad juhtumipõhist ja tehnoloogia erisustega arvestavat tõlgendamist. Näiteks võib tuua intellektuaalomandi või täpsemalt autoriõiguse, kus traditsioonilise kirjanduse ja kunsti tarbeks loodud instituut kohanes tarkvara ja andmebaasidega. Reguleerida tuleb nii vähe kui võimalik ja nii palju kui vajalik, lähtudes põhimõttest, et õiguslik sekkumine on vajalik vaid siis, kui ühiskondlik või tehnoloogiline muutus õigusraamistikku nõutab ehk kui kehtivad seadused viiksid tulemuseni, mis oleks sobimatu või ebaadekvaatne. Liigne reguleerimine viib innovaatilisuse ja selguse asemel vastupidisele tulemusele. Samal ajal ei saa uus tehnoloogia areneda ka õigusliku teadmatuse ja ebakindluse keskkonnas.

Selguse ja innovatsiooni edendamise eesmärgil loodi näiteks robootika vallas esirinnas olevas riigis Lõuna-Koreas aastal 2008 intelligentsete robotite arendamise ja leviku edendamise seadus, kus defineeritakse intelligentse roboti mõiste, pööratakse tähelepanu robootika vallas olulistele eetilistele küsimustele ja antakse ka suuniseid riigi eelarveliste vahendite kasutamise kohta. *3 Tegemist on õigusaktiga, mis teadlaste sõnul aitas turgu olukordades ja küsimustes, kus turul enesel puudus iseregulatsiooni võime. *4

Ka regionaalselt on robootika ja tehisintellekti temaatika tõusnud seaduslooja huviorbiiti. Näiteks võib tuua Euroopa Liidu algatused. 2012. aastal tehtud ettepanek anda välja roheline raamat robootika kohta *5 põhineb robootika regulatsiooni uuringul. 2014. aastal ilmus Euroopa Komisjoni rahastatud, robootikaõigust kirjeldav ja probleemkohti välja toov ülevaade. *6 12. jaanuaril 2017 avaldati Euroopa Parlamendi õigusasjade komisjoni (JURI) tellitud uurimus, milles sedastati, et robotite ja tehisintellekti tegeliku majandusliku potentsiaali kasutamiseks on vaja luua üleeuroopaline õigusraamistik, reguleerimaks valdkonna eetilisi ja õiguslikke küsimusi. *7 Kuigi veel 2014. aastal JURI tellitud analüüsis järeldatakse, et üldist robootika õigust luua vaja ei ole *8 , siis 2017. aasta „Aruanne koos soovitustega Komisjonile robootika tsiviilõiguslike normide osas“ sisaldab viiteid Euroopa robootikaagentuuri loomise, eetikakoodeksi vastuvõtmise ning vastutuse, turvalisuse ja ohutuse temaatika reguleerimise vajadustele. *9 Oluline on tähele panna, et aruande kohta on JURI tellinud ka kriitilise hinnangu, mis esitab aruandes avaldatud ettepanekutele põhjendatud küsimusi ja etteheiteid. *10

Käesolevas artiklis uurime, kas ja kuidas reguleerida tehnoloogiat, mida paljuski ei ole veel täna väljaspool laboriruume olemas või mis ei ole kättesaadav. Põhjusega võib küsida, et miks on siis regulatsioon nüüd ja kohe vajalik. Seda mitmel põhjusel. Oluline on see, et tehnoloogia areneb kiiremini kui kunagi varem, koostoimes asjaoluga, et 2018. aastal tootis inimkond andmeid rohkem kui inimkonna kogu senise ajaloo jooksul kokku. Omakorda tuleb arvestada teaduse taseme hüppelise tõusuga just algoritmide ning neurovõrkudel põhinevatesüsteemide vallas. See tähendab tehnoloogiateadlaste kinnitusel seda, et mis täna on kättesaadav laborites, saab jubalähedases tulevikus ka tavatarbijale kättesaadavaks. Eelkõige seisab olemasolev õigus silmitsi väljakutsetega seoses inimväärikuse, eetika ja vastutusega.

Intelligentsete robotite kasutamise intensiivsus meie igapäevaelus kasvab eksponentsiaalselt ning need masinad ja tehnoloogiad on järjest autonoomsemad ja intelligentsemad. Tööstuses on see juba reaalsus, kus robotite kasutuselevõtt on järjepidevalt suurenenud, ning aastaks 2020 ennustatakse 1,7 miljonit uut tööstusrobotit võrreldes aastaga 2016. *11 Seda, millisel tasemel on tänane tehnoloogia, kiputakse tihti alahindama. Näiteks puuetega või erivajadustega inimeste aitamiseks eksisteerib mitmekülgset intelligentset tehnoloogiat. *12 Intelligentseid süsteeme kasutatavad juba täna nii advokaadibürood, pangad, videomängutootjad kui ka turvateenistused nii kliendisuhtluseks, andmete analüüsiks kui ka esmaotsuste tegemiseks. Intelligentseid süsteeme kasutatakse ka kunsti-, kirjandus- ja teadusteoste valdkonnas. *13 Näiteks on tehisintellekt pärast filmide stsenaariumide analüüsimist ja õppimist võimeline looma ise filmistsenaariumi *14 , samuti suudavad tehisintellektid ise luua muusikat, joonistada ja kirjutada novelle. *15

Tuleb nentida, et asjaolu, kas tegemist on tegeliku tehisintellektiga või mitte, ei ole ühiskonna tuleviku võtmeküsimus, kuivõrd eetika-, moraali- ja õigusnorme on vaja ka lihtsalt autonoomsete robotite olemasolu või tulevikus loomisetõttu. Enamgi veel, nende vajalikkuse üle tuleb arutada juba täna, kus algoritmid on saavutanud teatud tasemel õppimisvõime. Nimelt, nagu on öelnud Jaan Tallinn intervjuus Allan Aksiimile Vikerkaares: „Selleks, et maailma ära hävitada, pole vaja olendeid, kellel on eneseteadvus. Arvutid, mis suudavad võita inimest males, ei pea olema teadvusel ning samuti pole teadvus tarvilik maailma mõjutavate juhtimisotsuste tarvis.“ *16 Teema on olnud vaatluse all juba ka Eesti õiguskirjanduses, eelkõige valdkonna akadeemilistes kirjutistes. *17

2. Mõisted

2.1. Tehnoloogia mõistetest laiemalt

2.1.1. Sissejuhatus

Enne konkreetsete probleemideni jõudmist on oluline käsitleda tehnoloogilisi termineid ja nende tähendust – eriti arvestades, et robootika ja tehisintellekti valdkonnas konkreetsetes definitsioonides kokkulepe puudub. Samas ei ole käesoleva artikli eesmärgiks kindlasti anda vastust ühele põhilisele filosoofia alusküsimusele selle kohta, mis on intelligentsus. Pigem toome välja terminid ja nende võimalikud definitsioonid, mis aitavad mõtestada seda, mis on robot ja millised on tehnoloogia võimekuse eri astmed.

Esimene oluline teema puudutab tehisintellekti olemust ja tähendust. Ilma tehisintellekti kujunemiseta ei räägitaks tõenäoliselt ka uue üldise regulatsiooni vajalikkusest ja õiguslike probleemide tekkestvõisiis vähemalt praeguste õigusaktide tõlgendamise probleemidest uues tehnoloogilises reaalsuses. Tehisintelligentsuse mõistmiseks on vaja mõista, mis on intelligentsus. Samas – intelligentsus on tihedalt seotud teadvuse ja autonoomiaga.

Seega kõigepealt vaatleme autonoomsuse, intellekti ja tehisintellektitähendust ning alles seejärel saame vaadelda robootikat ja robotitega seonduvat.

Autonoomsus tähendab seda, kui indiviid on „ sisse lülitatud “ , talle onvõimaldatud piisavad ressursid, siis ta onvõimeline teatava kompetentsi piires teostama tegevusi ilma täiendava välise sisendita. Autonoomne tegu on seega indiviidi tegu, mille puhul indiviidil on võime otsustada, kas teha tegu ilma otsese käsuta. Autonoomsus on binaarne. Samas asi tervikuna ei pea olema autonoomne, kuid selle komponendid võivad olla. *18 Autonoomne on ka n äiteks Kalevi kommivabriku seade, mis pumpab kommi sisse martsipani ning mis jätkab kommide täitmist, kuniks masin on sisse lülitatud. Arvutid on täna paljuski autonoomsed – nii IBM Watson, mis täidab keerukaid ülesandeid, kui ka lihtsad programmid. On masinaid, mis opereerivad programme lõputult, näiteks Facebooki veebileht, mis autonoomselt talletab andmeid, vastab päringutele, optimeeribtöötamist algoritmide järgi ja seda ilma programmeerijapoolse sisendita. Siiski ei ole Facebook.com intelligentne – see on n-ö programmeerijate ori. *19 Viimasel ajal on rahvusvahelisel areenil olnud debati teemaks ka autonoomne relvastus. *20

Tehnoloogiliselt tehakse vahet tugeval ja nõrgal autonoomsusel. Tugeva autonoomsuse saab samastada inimvõimega arutleda ja tahtlikult otsustada. Seega saab intelligentsuseleläheneda mitmeti. *21 Robot võiks olla tugevalt autonoomne seega vaid olukorras, kus see suudab anda ratsionaalseid selgitusi oma tegevuse kohta, näidates sellega tahtlust. Tänapäeval sellist robotit ei eksiteeri. Nõrk autonoomsus on võime opereerida ilma inimese sekkumiseta keerukates situatsioonides.Nõrga autonoomsuse skaala on lai alates ettekirjutatud funktsionaalsuste puhtalt tehnilisest täitmisest ning lõpetades iseõppiva algoritmiga. Nõrk autonoomsus on seega nii autonoomsel sõidukil, droonil, kui ka tingimustele vastaval tolmuimejal ja külmkapil. *22

2.1.2. Intelligentsus

Intelligentsuse definitsioone on mõningate hinnangute kohaselt sama palju, kui on eksperte, kellel on palutud terminit defineerida. *23 Intelligentsus ei ole autonoomsus, mis on intelligentsuse tingimusena küll vajalik, kuid mitte piisav. Intelligentsus on autonoomsuse täiend. Intelligentsuse tingimused on:

−     indiviid on võimeline programmeerima ennast autonoomselt;

−     indiviid on võimeline informatsiooni töötlema ja seda informatsiooni integreerima mingis raamistikusvõimõttemudelis. *24

Shane Legg on intelligentsuse defineerimisele pühendatud doktoritöös analüüsinud ligi 70 erinevat definitsiooni ning sünteesinud neist ühe: intelligentsus mõõdab võimet saavutada eesmärke paljudes erinevates keskkondades. *25

2.1.3. Teadvus

Teadvust võib vaadelda kui subjektiivse kogemuse olemasolu. Siit tuleneb, et iga tõeliselt intelligentne indiviid on ka teadlik, sest raamistiku või mõttemudeli olemasolu intelligentsuse tingimusena eeldab per se subjektiivset kogemust. Sellist teadlikkuse definitsiooni toetab ka René Descartes’i argument cogito ergo sum. *26 Sellise definitsiooni põhjal võime jaatada intelligentsete robotite autonoomsust, intelligentsust ja teadlikkust. Samas mitte kõik tehisintellekti koolkonnad ei nõuta teadvust tehisintellekti kriteeriumina.

2.1.4. Tehisintellekt

Eesti keele seletavas sõnaraamatus on tehisintellekti mõistele pakutud kaks definitsiooni:

−     esiteks tähendab see mõiste modelleeritud ajuprotsessidest tulenevat arvuti suutlikkust jäljendada inimese vaimset tegevust ehk nn tehisaru (neurovõrgu tehnoloogial baseeruv);

−     teiseks on see arvutiteaduse ja -tehnika haru, mis uurib ajuprotsesside modelleerimist elektronarvutil ja vastavate arvutisüsteemide loomise meetodeid. *27

Tehisintellekti on kategoriseeritud teaduskirjanduses ka kitsaks (või nõrgaks), üldiseks (või tugevaks) ning supertehisintellektiks. Esimene neist on funktsiooni- ja domeenipõhine (ehk valdkonnapõhine) ning tänapäeval saavutatud (nt malerobotid, ilmaennustus jmt). Tugev tehisintellekt on inimese tasemele küündiv tehisintellekt, mida tänapäeval veel olemas ei ole, ning supertehisintellekt on teoreetiline olukord, kus tehisintellekt ületab inimintellekti igas valdkonnas. *28

Intelligentset atribuuti on proovitud defineerida ka tunnuste kaudu. Hallevy pakutud viis tunnust selleks on:

−     võime kommunitseerida. Selgituseks: näiteks võimalik on suhelda koeraga, aga mitte Albert Einsteini relatiivsusteooriaga;

−     sisemised teadmised;

−     välised teadmised ehk võime välismaailma kohta teada ja selle kohta juurde õppida;

−     eesmärgipõhine käitumine;

−     loovus kitsamas tähenduses. Selgituseks: näiteks kui atribuut ei saa väljuda akna kaudu, siis otsib atribuut alternatiivseid võimalusi ruumist väljumiseks. *29

Eraldi küsimuseks on loovuse vajalikkus eeltoodud autonoomsuse, intelligentsuse ja teadlikkuse osana. Loomiseks on vajalikud oskused, hindamisvõime ja kujutlusvõime. See on võetud aluseks ka mitme loomingulise tehisintellekti loomisel. Võib kujutada ette kunstnikke (füüsiline isik või mitte), kellel puudub üks nendest omadustest. Ilma oskusteta ei oleks nad võimelised looma; ilma hindamisvõimeta ei looks nad midagi, millel oleks väärtus; ilma kujutlusvõimeta looksid nad vaid pastišše teiste isikute töödest. Selleks et tehisintellekt oleks loominguline, peaks tal olema kõik kolm loetletud omadust. *30

Lisaks on püütud viimaste tehnoloogiate arendamisel ka näidata, et loovus laiemas tähenduses ei ole enam omane ainult inimesele. Näiteks programmeeriti tarkvara joonistama näituse külastajatest pilte. Külastajate portreed olid mõjutatud sellest, mis „tujus“ programm parasjagu oli. Viimane sõltus programmile lugeda antud ajaleheartiklitest. Kui programm oli eriti halvas tujus, siis keeldus see üldse pilti joonistamast. Viimaseks ei olnud programmi otseselt programmeeritud. Otsuse mitte joonistada tegi programm n-ö ise. *31

Ühelt poolt leitakse teadusringkondades, et ükski tehisintellekti sisaldav masinvõi ka virtuaalne tehnoloogia ei oleläbinud Turingi testi *32 , mille kaudu antakse vastus küsimusele, kas masin on võimeline ka ise „mõtlema“. *33 Teiselt poolt aga leiab juba vastupidiseid seisukohti, mille järgi olemasolev tehisintellekt läbis testi kirjapildi ja heli osas, s.t inimesel ei olnud võimalik aru saada, et ta suhtleb robotiga ei kirjas ega ka roboti poolt väljendatud heli puhul. *34 Samas ilmub järjest rohkem teaduskirjutisi, mis tõdevad, et tänaste autonoomsete ja intelligentsete süsteemide väljundid ei ole täielikult autonoomsed või tehisintelligentsed. Juhtiv tehisintellekti teadlane Geoff Hinto aga ennustab, et Google’i tehisintellekt saavutab „kaine mõistuse“ võime kümne aasta jooksul. *35 On ka teadlasi, kes ennustavad ette singulaarust ehk olukorda, kus paljud teaduslikud ja tehnilised läbimurded viivad iseareneva tehisintellekti ilmnemiseni, sest tehnoloogia tundub arenevat sisuliselt lõpmatul kiirusel. *36

Olenemata eeltoodud eri järeldustest ja ennustustest oleme olukorras, kus Euroopa Komisjon on põhjendatult nimetanud autonoomseid intelligentseid süsteeme üheks kõige olulisemaks proovikiviks aastaks 2020. *37

2.2. Robootikavaldkonna mõisted

2.2.1. Robot

Esimene oluline mõiste, millele robootikavaldkonnas tähelepanu pöörata, on robot. Paraku on roboti mõiste praegu nii lai ja seda eriti tavaarusaamas, et selle defineerimisest ei ole praktilist kasu. Seda põhjusel, et kõikehõlmav definitsioon oleks äärmiselt üldine ja sellel ei oleks tehnilist ega õiguslikku funktsiooni. *38 Siiski võime pildi raamistamise eesmärgil üldistatult tõdeda, et robot *39

−     peaks vastama mitmele kriteeriumile, sh ettenähtud viisil lahendama ülesandeid ja funktsioneerima;

−     koosnema füüsilisest masinast, mis on võimeline käituma ümbruskonnale vastavalt *40 , või omama kaudset füüsilise toe elementi (nt finantsroboti või algoritmilise roboti puhul server või Apple’i Siri puhul mikrofon ja kõlar jmt).

Terminoloogiliselt tuleb vahet teha mõistetel „robot“, „autonoomne robot“, „intelligentne robot“ ja „tark robot“.

2.2.2. Autonoomne robot

Autonoomne robot eeldab lisaks võimet võtta vastu otsuseid ning neid rakendada välismaailmas iseseisvalt, sõltumatultvälisest kontrollist ja mõjust; samas on see autonoomsus puhtalt tehnoloogilise *41 iseloomuga. Tehnoloogia keerukuse aste sõltub sellest, kui kõrgetasemelise või keerulisena on kavandatud roboti suhtlus oma keskkonnaga. *42 Küll aga on autonoomsusel ja intelligentsusel vahe. Autonoomne robot ei ole automaatselt ka intelligentne robot ning autonoomne robot ei eelda tingimata tugevat autonoomsust. *43

2.2.3. Intelligentne robot

Intelligentse roboti kriteeriumid peaksid olema järgmised:

−     ta omandab autonoomia sensorite kaudu ja/või andmevahetuse abil ümbruskonnaga (nn ühenduvus) ning vahetab ja analüüsib andmeid;

−     ta omab võimet õppida, suhelda, suhestuda (tehisintellekti elemendid);

−     ta omab füüsilist tuge;

−     ta kohandab oma käitumist ja tegevust ümbruskonnajärgi.

Tänapäeval tunneme peamiselt mitteintelligentseid roboteid, vaatamata sellele, et teatud olukordades tundub selline robot meile intelligentne. Euroopa Parlamendi kriitilises uurimuses on toodud kaks näidet. *44

 

Esiteks, kui kirurgilised robotid võivad kuuluda robotite üldkategooriasse, siis neid ei saa võrrelda intelligentsete autonoomsete robotitega. Nimelt tegelikult töötavad kirurgilised robotid peamiselt peremees-ori-mudeli põhiselt, s.t praktik (nt arst) käitab neid kaugjuhtimise teel, nagu tegi ka Da Vinci oma kirurgilise robotiga. Kuna inimene on otsustusprotsessi osa, ei saa kirurgiline robot olla autonoomne. See aga ei tähenda, et selliste kirurgiliste robotite regulatsioon ei oleks vajalik näiteks ohutuse ja väljaõppe puhul.

Teiseks, kuigi teadlased arendavad autonoomseid droone, siis täna käitab neist enamikku käitaja kaugjuhtimise teel ning pigem ei vasta need intelligentse ja autonoomse roboti tunnustele. Euroopa Liidu aruande kohaselt vajavad need õiguslikku regulatsiooni eelkõige ohutuse, turvalisuse, eraelu puutumatuse ja isikuandmetega seoses.

 

Tunnistame tehisintelligentseid roboteid spetsiifilistes valdkondades (nt malerobotid).

Intelligentsel robotil tuleb teha otsuseid erinevates situatsioonides, mida insener ei suuda spetsiifiliselt ennustada *45 , mistõttu kirjeldatakse seda ka kui tehisobjekti või süsteemi, mis tunnetab maailmas toimuvat ja käitub sellele vastavalt, mis viib „ennustamatult kasuliku käitumiseni“. Intelligentse roboti käitumine sõltub suures osas tarkvara programmeerimisest, mis on sedavõrd keerukas, et on võimatu ennustada käitumist. *46

Vaadeldes suhet autonoomsus-intelligentsus ja autonoomne intelligentne robot ühtse pildina, tekib selline relatsioon:

 

Joonis 1. Autonoomia-intelligentsuse mudel suhtes robotitega

 

Intelligentne robot on masin, mis on osalt inseneri tegevuse tulemus ja osalt iseõppiv masin. Nimelt suudab tehnoloogia koguda ise informatsiooni ja sellel põhinevalt luua uusi käitumismustreid, mida insener ei ole programmeerinud ega isegi ette näinud. *47 Intelligentsed robotid küll järgivad inseneri instruktsioone ja juhiseid, kuid nende instruktsioonide järgi tuleb robotil olla iseseisev, õppida „kogetust“, katsetada uusi strateegiaid ja õppida nende katsetuste tulemustest.

Veel näiteid, kuidas mõista, mis on intelligentne robot.

 

Kui robotile antakse käsklus „ava uks“, siis ilma lisajuhised saamata on robot võimeline „ise“ käsu täitma. Selleks võtab robot mh arvesse ukse käepideme asukohta, kasutab sobivas koguses jõudu ja kasutab kohaselt selleks oma füüsilist keha. Käsupõhise roboti autonoomia erineb teleopereerimisest, kus operaator annab samm-sammult juhiseid, mida täpselt robot tegema peab, kus asub ukselink ja kuhu peab robot oma „käe“ suunama jne. *48

 

Eeltoodu kohaselt ei saa olla intelligentsus kui selline eelprogrammeeritud. Näiteks kui robot lihtsalt laeb pilvest alla uue tarkvara ning on võimeline täitma uusi käsklusi ja ülesandeid, siis see ei saa kvalifitseeruda intelligentsuseks. Tegemist on tavapärase arvuti funktsionaalsusega, nii nagu seda tänapäeval tunneme. *49

Tehisintelligentsusena mõistametänapäeval pigem kahte eri arusaama „tarkvaralisest“ süsteemist: neuronvõrkudel põhinevat disaini ja masinõpet. Esimese puhul, kui robot teeb otsuse kogetu põhjal, ei ole kõiki tegutsemismustreid ja tagajärgi võimalik ennustada. *50 Seega intelligentne iseõppiv robot imiteerib justkui väikest last, kes õpib maailmast ja selle kohta, mis teda ümbritseb. Sellistel juhtudel võib kasutusel olla tarkvaradisain, mis „neuronite võrke“ simuleerides aimab järele inimese aju toimimist. *51 Samal ajal võib olla tegemist intelligentsusega, mis on saavutatud masinõppe kaudu, mis üldistatult tähendab, et masinat ei programmeerita juba ette konkreetses olukorras teataval viisil käituma, vaid kuivõrd kõiki olukordi ei ole võimalik ette näha, siis masin analüüsib olemasolevaid andmeid, kogub neid juurde, analüüsib, planeerib ja katsetab ning seejärel õpib tulemusest. Seega masin õpib „õiget“ käitumist sisuliselt ise (või teise masina või inimkontrolli või juhendamise all). Seda selle asemel, et käitumisreeglid oleksid masinasse programmeeritud. *52

2.2.4. Tark robot

Tark robot kuulub täna ja veel kauges tulevikuski ulme valdkonda, sest robotil oleks oma „mina“, teadvus, loovus ning emotsioonid ja hirmud. Teaduskogukond hoiatab termini „tark robot“ kasutamise eest, nimelt seoses eelkõige ühiskondliku vaatega robotitele *53 ning ka põhjendatult ja põhjendamatult hirmu tekitanud sündmustele. *54 Enamgi veel, termin „tark robot“ võib tekitada ühiskonnas arvamuse, et tegemist on juba peaaegu inimesega, ning roboti soetanud isiku pettumus võib väljenduda veelgi negatiivsemas suhtumises robotitesse. *55

Vaadeldes kõiki roboti kriteeriume üksteist täiendavatena, on võimalik esitada järgmine taksonoomia:

 

Joonis 2. Robotite taksonoomia ja kumulatiivsed tingimused

2.2.5. Autonoomne ja intelligentne robot

Vanemas kirjanduses eristatakse robotit ja tehisintellekti ning varem ei räägitud õiguskirjanduses ka kuigivõrd intelligentsest robotist. Reeglina leiti kirjanduses, et robotil peaks olema füüsiline keha, tavapäraselt „jäsemetega“ või ka inimesega sarnane, mis on loodud selleks, et saavutada mingi efekt reaalses maailmas. Tehisintellekti kirjeldati kui tarkvara koodi. *56 Selleks et reaalses maailmas manifesteeruda, on ka tehisintellektil vaja robootikat. *57 Seega on oluline mõista kirjanduse lugemisel konteksti, sest „robot“ ja „tehisintellekt“ ei ole sünonüümid. Seoses tehisintellekti arenguga räägitakse nüüd ka digitaalsetest ja virtuaalsetest robotitest, millel füüsiline keha puudub (nt chatbot’id, börsialgoritmid).

Terminoloogiline segadus on viinud olukorrani, kus tihti on võimatu debatt või arutelu, sest arusaam vaatlusalusest objektist on erinev. Eeltoodud taksonoomiat kokku võttes tundub autoritele, et õige võib olla kasutada „intelligentse ja autonoomse roboti“ terminit üldtermini „tehisintellekt“võilihtsalt „robot“ või ka „algoritm“ asemel. Eestis on kasutusele võetud kõnekeelne väljend „kratt“, mis viitabki tarkvaralisele algoritmile, mis on autonoomne ja õppimisvõimeline ning teeb traditsiooniliselt inimese poolt tehtavaid toiminguid.

3. Tsiviilõigused ja kohustused seoses robotitega

3.1. Tsiviilõigusliku vaate vajalikkus

Õiguskirjanduses on viimastel aastatel järjest enam arutletud robotitega seonduva eraõigusliku regulatsiooni üle. Arusaadavalt, sest kui vaadelda autonoomset intelligentset robotit olukorras, kus see on võlasuhte objekt, siis on üheselt selge, kuidas kehtiv õigus olukorda lahendab. See ei ole aga ühene, kui robot on objekt suhetes, mis on seotud näiteks valdaja vastutusega suurema ohtu allika eest (nt nn pakiroboti tekitatud kahju teise isiku varale). Debateeritakse selle üle, kas on kohane robotile asja kohta käivate sätete kohaldamine, samuti füüsilises maailmas eksisteeriva roboti käsitlemise üle sarnaselt loomaga. Ehk rakenduks loomapidaja vastutusega analoogne süüta vastutus ning teatavad loomakaitseseaduse eesmärgiga sarnased eesmärgid (nt robotite väärkohtlemise keeld inimlike väärtuste ja kõlbluse kaitsel).

Tavapärases olukorras, kus vaatluse all on kuitahes autonoomne intelligentne robot, siis eelkõige võiks ja saaks kohaldada analoogiat loomaga. *58 Loomaga võrdlus on asjakohane paljudes aspektides, kus vaatleme robotit kui kellegi omandis olevat asja, mida on võimalik opereerida ja kasutada ning millega on võimalik tekitada teistele isikutele ka kahju. Analoogia võimaldab teatavate seadusnormide täpsustamise kaudu luua olukorra, kus omandisuhe ja vastutus on üheselt reguleeritud. Loomaga liigse võrdsustamise kui väära lähemise eest on õiguskirjanduses hoiatatud põhjusel, et praeguse seisuga ei ole tehnoloogial erinevalt loomast „aistinguid“, „instinkte“ ja sellisel tasemel „oma tahtmise järgi“ käitumist, nagu seda on loomal. *59 Nagu juba varem märgitud, on endiselt vaieldav, millal saab rääkida tehnoloogia „mina“ tekkimisest ja tehnoloogia „oma“ käitumisest. *60 Kuivõrd loom on elav organism, siis tema käitumise programmeerimine käib endiselt inseneridele üle jõu ning on praegu veel ka võimatu. Näiteks koera märkimisväärse lõhnataju kopeerimine ja masina poolt matkimine ei ole veel tehnoloogiliselt võimalik. Teisalt ei lahenda mõnel juhul roboti käsitlemine sarnaselt loomaga ka probleemi, et robot võib tulevikus olla (ja mingis osas juba on) loomast palju targem. Näiteks tuuakse, et lemmikloom erinevalt robotist ei võida kunagi inimest malemängus. *61 Loomaga sarnaselt käsitlevad robotit muuhulgas Ameerika Ühendriike õigusteadlased, aga seda Eesti õigusesse erinevatel põhjustel üle tuua ei ole mõistlik. *62 Eesti õigusesse rahvusvaheliselt õiguskirjanduses esitatud käsitlusi analoogia kohta loomaga samuti üheselt ja automaatselt üle tuua ei saa põhjusel, et „asi“ on TsÜS *63 §  49 mõttes kehaline ese, mistõttu analoogia on võimalik robotiga vaid siis, kui jaatame alati riistvara (kasvõi toetavat ja kaudset) vajalikkust. *64 V õiloome analoogia „ esemega “ , mis ei nõua tingimata kehalisust (TsÜS §  48)?

Olukordades, kus vaatleme tagajärgi, mida autonoomse intelligentse roboti kasutamine selle pidajale kaasa toob, on looma analoogia kasutamistpõhjendada keerukam. Nimelt on roboteid, mille ainsaks eesmärgiks on otsustada teiste isikute edasise elu üle (kohtunike abirobot COMPAS), ning on roboteid, mis osalevad meie nimel tehingutes ja seda enne, kui meie sellest teame (tviidipõhine kauplemisrobot TrumpAndDump). Sellistel puhkudel on õiguskirjanduses paljuski vaadatudvõimaluse poole käsitada sellist robotit isiku agendina. Käsitust on analüüsitud nii pooldavalt *65 kui ka mistahes õigus-/teovõime andmise vastaselt. *66 Õigusvõimelist robotit on õiguskirjanduses nimetatud elektrooniliseks isikuks või agendiks. *67 Tuuakse näiteks, et Jaapani kultuuriruumis juba omistatakse robotitele teatav agentsus. *68 Samas tuleb tõdeda, et Jaapani šintoistlikus vaates võib robotil olla ka hing, mis on läänelikus kultuuris vastuvõtmatu ja ebaloogiline. *69

Seega lisaks küsimusele, kas käsitleda robotit omandi ja vastutuse küsimuses sarnaselt loomaga, tekib küsimus, kas oleks vajalik ja mõistlik jaatada teatavates olukordades ka intelligentse roboti piiratud õigus- ja/või teovõimet. Teisena võiks teatava osalise õigus- ja teovõime andmise korral kaaluda tahteteooria kohaldamist, subsumeerimaks igasugune roboti tegu selle pidaja teoks.

Alljärgnevalt vaatlevad autorid just neid kahte võimalikku seisukohta.

3.2. Õigusvõime ja piiratud teovõime andmine

Robotile isiku staatuse või õigussubjektsuse andmine ega debatt selle üle ei ole autorite hinnangul täna ega ettenähtavas tulevikus vajalik ega mõistlik. Olenemata sellest, kui intelligentne on robot, siis roboti eesmärk on täita ülesanne või saavutada eesmärk, mis on temale seatud tootja või robotipidaja poolt. *70

Autorite hinnangul on aga asjakohane arutelu selle üle, kas võib olla vajalik ja mõistlik kaaluda autonoomse intelligentse roboti käsitamist teataval juhul inimese (või juriidilise isiku) agendina. Selle alternatiivi üle on õigus- ja tehnoloogiakirjanduses asutud aktiivselt arutlema. *71 Väidetakse, et robotile mõningatel juhtudel õigusvõime ja piiratud teovõime andmine on kasulik nii sotsiaalselt, äriliselt kui ka poliitiliselt. *72 Näiteks Euroopa Liidu 2014. aasta robootika reguleerimise juhiste *73 järgi võib robotitele anda piiratud juhtudel õigusliku staatuse, mis sarnaneb juriidilise isiku omaga. Viimane võimaldaks robotil olla lepingu pooleks. *74 Isiku staatuse vajalikkust rõhutatakse ka Euroopa Liidu Parlamendile ja komisjonile esitatud taotluses tsiviilõiguse normide kohta robootikas. *75 Selles märgitaks, et kaaluda tuleb muuhulgas võimalust

 

„luua robotitele eraldi õiguslik staatus selleks, et vähemalt kõige keerukamad autonoomsed robotid omaksid elektroonilise isiku staatust eraldi õiguste ja kohustustega, shhüvitada nende tekitatud kahju ja rakendada elektroonilist isiksust juhtudel, kus robotid teevad autonoomseid otsuseid või suhestuvad muul viisil iseseisvalt kolmandate isikutega“ *76 .

Kas Eesti õigus võimaldaks olukorda, kus robotit käsitatakse olemasolevate isikute agendina, loomata samas juurde uut isikut?

3.2.1. Osaline õigusvõime

Õigusvõime on traditsiooniliselt võime omandada tsiviilõigusi ja -kohustusi ning see on kõigil isikutel ühetaoline ja piiramatu (TsÜS §  7 lg 1). Tsiviilõiguses nimetatakse isikuteks tsiviilõigussubjekte, kes saavad kanda õigusi ja kohustusi ning olla õigussuhte pooleks. Nii füüsiliste kui ka juriidiliste isikute õigusvõime on sama tähendusega, kuid nende õigusvõime maht on erinev: juriidilisel isikul ei saa olla neid tsiviilõigusi ja -kohustusi, mis on omased üksnes inimesele. *77 Õigusvõime ühetaolisuse printsiip tähendab seda, et kellegi õigusvõimet ei tohi piirata, sh ei seadusandja ega kohus ei saa isikut jätta õigusvõimest ilma. Küll aga võib olla mingite õiguste omamine mingiks ajaks piiratud või välistatud ning seda vaadeldakse subjektiivsete õiguste omandamise jaoks lisanõuete sätestamisenavõinende õiguste kitsendamisena (nt PankrS *78 § s   91 sätestatud ärikeeld; KarS *79 § s   49 mingitel ametikohtadel töötamise keelamine; Eestis kinnisvara omandamine – kinnisasja omandamise kitsendamise seaduse *80 §  3).

Saksa õigustraditsiooniga riikides tunneb õigus ka õigusvõimeta ehk õigussubjektiks mitteolevat isikute ühisust (sks Gesamthand), mis on iseseisvate õigussubjektide ühendus. Eesti õigus tunneb juriidiliste isikute kõrval sellist isikute ühendust nagu seltsing, mis ei ole isik ega oma seega üldist õigusvõimet. Samas ei saa eitada olukorda, kus seltsing võiks vastanduda igale üksikule seltsinglasele ning olla seega üksikjuhtumil tunnustatud õigusvõimelisena. *81 Riigikohus on tunnustanud seltsinglase halduskohtumenetluslikku õigusvõimet ja teovõimet keskkonnaasjades. *82 Seega on oluline eristada õigussubjektiks olemist juriidilise isiku tähenduses ja sellega kaasnevat üldist õigusvõimet ning seaduses ettenähtud juhtudel õiguste ja kohustuste kandjaks olemist ja sellega kaasnevat osalist õigusvõimet. *83

Intelligentsete ja autonoomsete robotite puhul on asjakohane viimane analoogia. Üldist õigusvõimet ehk õigussubjektsust intelligentsel robotil ei peaks olema, küll aga võiks olla asjakohane jaatada intelligentse roboti osalist õigusvõimet ehk õigust olla seaduses ettenähtud juhtudel teatavate õiguste ja kohustuste kandjaks. Selleks peab seadus määratlema selle ulatuse, viisi ja mahu, milles intelligentne robot võiks õiguste ja kohustuste kandjaks olla.

3.2.2. Piiratud teovõime

Teovõime *84 on isiku võime teha iseseisvalt kehtivaid tehinguid ja tekitada nende kaudu muudatusi tsiviilõigustes ja kohustustes. Teovõime puhul ühetaolisuse ja piiramatuse reegel õigusvõimega samaselt ei kehti: seaduses eksisteerib (täielik) teovõime ning piiratud teovõime. Piiratud teovõime on alaealistel, kuid võib mõningatel juhtudel olla ka täisealistel (eelkõige vaimse tervise probleemi tõttu, mis piiratuse tingib). Muuhulgas võib piiratud teovõime olla justnimelt tehingutest sõltuv (nt eluruumi üürilepingu sõlmimise puhul). *85

Selleks et rakendada teovõime ja piiratud teovõime instituute intelligentsete robotitega seoses (nt seoses vajadusega teostada teatud tehinguid oma pidaja/valdaja nimel ja huvides) ning samal ajal mitte kõigutada tsiviilkäibe usaldatavust, tekitades „hõljuvalt kehtetuid tehinguid“,võib välja tuua kolm võimalust, kuidas probleemile läheneda.

−     Eestkoste ja määratud tehingud. Piiratud teovõimega täisealise isiku puhul näeb seadus ette, et kohusvõib määrata temale eestkostja ning sellisel juhul eeldatakse, et isik on piiratud teovõimega ulatuses, milles talle eestkostja on määratud (TsÜS §  8 lg 3). Intelligentse roboti puhul tuleks lähtuda samalaadsest analoogiast: robotipidaja on tema „eestkostja“ ulatuses, milles ei ole intelligentsele robotile antud õigust sõlmida lepinguid (eestkostja või roboti valdaja nimel ja huvides).

−     Nõusolek. Samamoodi võib õigusliku analoogia korras rakendada nõusoleku (teatavatel juhtudel hilisema heakskiidu) instituuti ehk ka olukorras, kus loeme intelligentse roboti igas olukorras piiratud teovõimega isikuks, saab ta kehtiva tehingu teha seadusliku esindaja eelneval nõusolekul ning intelligentsele robotile saab kohustusi ka täita. Hilisema heakskiidu instituut tähendab, et piiratud teovõimega isiku eelneva nõusolekuta tehtud tehing on tühine, välja arvatud juhul, kui esindaja tehingu hiljem heaks kiidab.

−     Taskurahareegel. Alternatiivina saab kaaluda ka nn taskurahareegli rakendamist ehk analoogselt kehtiva õigusega ei anna seaduslik esindaja/eestkostja nõusolekut mitte konkreetse tehingu tegemiseks, vaid nõusoleku, et piiratud teovõimega isik võib teatavaid vahendeid kasutada oma äranägemisel, tehes ükskõik millise tehingu, mida nimetatud vahendid võimaldavad. *86

Seega võiks jaatada seda, et Eesti õigus oma olemuselt sisaldab instituute, mis lubaksid analoogia alusel anda intelligentsele autonoomsele robotile õiguse (ja sellega kaasnevad kohustused) oma omanikku ja valdajat esindada. Võib väita, et see kiirendaks tsiviilkäivet ja suurendaks inimestele robotitest tulenevat kasu. Selle eelduseks on selge seadusliku aluse loomine, millal ja millises ulatuses võib robotagent esindada oma omanikku ja valdajat ning kuidas tagatakse täpne ja asjakohane teave selle kohta potentsiaalsetele tehingupartneritele. *87

Ka õigusteadlased, kes on kriitilised lähitulevikus robotile subjektsuse andmise (või ka lihtsalt piiratud osalise õigusvõime või teovõime lubamise) suhtes,märgivad, et see ei tähenda, et ei võiks arutleda juba praegu mingis osas õigussubjektsuse täies ulatuses tunnustamise üle sarnaselt juriidilise isikuga. Seda eriti seoses esindusõigusega ja võimegasõlmida kehtivaid lepinguid esindatava nimel. *88

3.3. Roboti omaniku/valdaja tahteavaldus

Alternatiivina mistahes esindamisõiguse andmisele võib vaadelda robotipidaja tahteavalduse kehtivust mistahes tagajärgede eest, mille toob kaasa autonoomse intelligentse roboti kasutamine.

Nimelt, mistahes tehingus peab tsiviilõiguse süsteemis sisalduma isiku tahteavaldus, mis peab olema TsÜS §  67 lõike 1 alusel suunatud kindla õigusliku tagajärje kaasatoomisele ning milles peab väljenduma isiku tahe. Võlaõigusseadus *89 on veelgi täpsem, defineerides pakkumuse ja nõustumuse (VÕS §  16 ja   20). Eesti õigussüsteemis toimub tehingute tegemine oferdi ja aktsepti teel. On vajalik, et tahteavalduses oleks sõnaselge õigusliku tagajärje soovimine. Seega on lepingu sõlmimiseks vajalik tahte piisav konkretiseeritus.

TsÜS §  68 lõige 1 sätestab, et tahteavalduse võib teha mis tahes viisil, kui seadusega ei ole ette nähtud teisiti. Samas paragrahvis on toodud välja tahteavalduse võimalikud liigid.

Need on järgmised:

−     otsene tahteavaldus on otseselt ja vahetult väljendatud sõnaline avaldus (lg   2);

−     kaudne tahteavaldus väljendub sellises teos, millest võib järeldada tahet kaasa tuua õiguslik tagajärg (lg 3);

−     vaikimist või tegevusetust peetakse tahteavalduseks, kui see tuleneb seadusest või pooltevahelisest praktikast (lg 4);

−     lisaks on võimalik tahteavaldust asendada kohtulahendiga.

Mistahes muul viisil tahteavalduse tegemise õigus välistab. *90

Käesoleval juhul on küsimuseks olukorrad, kus tehing tehakse roboti vahendusel. Olenevalt roboti tasemest võib sisendkriteeriume tehingu tegemiseks olla järjest vähem. Autonoomne ja intelligentne süsteem võib inimese jaoks sõlmida tehinguid, mille valiku täpne põhjus on teada robotile ja mitte inimesele,võion antud kriteeriumid küll kindlad, kuid valiku tegemisel on robotil vabadus. Enamgi veel, nagu Euroopa Parlamendile ja Euroopa Komisjonile tehtud ettepanekus märgitakse,võib autonoomne robot valida ise lepingupartneri, rääkida läbi lepingutingimused,sõlmida lepingu ning otsustada, kas ja kuidas seda täita. *91 Sellised inimtahtega mitteseotud tegevused ei sobitu ühegi TsÜS §-s 68 toodud tahteavalduse liigi alla. Tegemist pole otsese tahteavaldusega, sest inimene ei avalda vahetult ja otseselt tahet kas kindla tulemuse või lepingupartneri saamiseks, vaid laseb robotagendil otsustada lähtuvalt mingitest kriteeriumitest (mida aja möödudes jääb ilmselt järjest vähemaks). Ka ei ole tegemist kaudse tahteavaldusega, sest teo tegijaks on robot.

Leida, et intelligentse roboti tehtud tehingud on kaetud ostja tahtega selline võimekas robot soetada, ei ole autorite hinnangul õige, sest puudub inimese tahte piisav konkretiseeritus – õigusliku tagajärje tahe. Ei saa tuletada õigusliku tagajärje tahet, kui me ei tea ette võimalikke õiguslikke tagajärgi ja tehisintellekti puhul ei tea inimene/ostja igas olukorras tulemust/tehingut ette. Samal põhjusel ei ole tegemist ka tahteavaldusega vaikimise või tegevusetuse kaudu, sest pole konkretiseeritud tahet. Seega ei sobitu intelligentse roboti abil/vahendusel tehtud tehing ühegi TsÜS §  68 lõigetes 2–4 toodud tahteavalduse liigi alla.

Seega intelligentsete autonoomsete robotite kaudu jõuame olukorda, kus tsiviilseadustiku üldosa seaduse kommenteeritud väljaande lause on saanud reaalsuseks:

 

„vastupidisel juhul tuleks osata kirjeldada mõnda sellist tahteavalduse tegemise viisi, mis ei ole lõigetega 2–4 hõlmatud“ *92 .

4. Kokkuvõte

Me sõlmime tehinguid sellise tehisintellekti abil ja vahendusel, mis vajadusel suudab ise aluskriteeriumitest teha edasiarendusi ja vastu võtta otsuseid. Mille alla liigitada siis tehingute sõlmimine roboti abil? Ühe võimalusena sobitub kõrgetasemeliste robotite puhul selline tegevus esindamise alla. Praegu kehtiv õigus ei võimalda robotil esindaja olla, sest esindaja saab olla õigus- ja teovõimeline isik. Teiseks võimaluseks on luua olemasolevatele lisaks uus tahteavalduse liik, mis hõlmaks tahteavalduse tegemise roboti vahendusel ning selle autonoomia piirides. Kolmandaks variandiks on loomulikult jääda kirjutatud õiguse juurde ehk tegutseda de lege lata.

Tõdeme ju, et õigus on alati olnud reaktiivne. See on võimaldanud abstraktsuse, mida hindame kirjutatud õiguse puhul. Proaktiivne seadusloome on alati olnud tabu. Võib vaielda, et suurte muutuste ajal, mil muutuste protsesski on kiirem kui kunagi varem ajaloos, on aeg uuesti mõtiskleda, kas tabu ei olegi äkki enam tabu. Kas äkki võrrandis, milles on vaid muutujad, võiks õiguskeskkond olla üks see konstant, mis võimaldab meil paremini leppida tehnoloogiaga, mis otsustab meie eest ja suhtes?

 

Märkused:

*1 Käesolev artikkel põhineb 35. Eesti õigusteadlaste päevadel tehtud ettekandel „Robotid meie ümber, meiega koos ja meie nimel?“ (Arvutivõrgus: [Link] (02.01.2019)) ning Riigikantselei strateegiabüroo tellitud analüüsil isejuhtivate sõidukite eksperdirühma raames. Vt K. Turk, M. Pild. Analüüs SAE tase 4 ja 5 sõidukite kasutusele võtmiseks. Majandus- ja Kommunikatsiooniministeerium, 14.10.2017. Arvutivõrgus: [Link] (26.02.2018).
*2 A. Garza. “Look Ma, No Hands!”: Wrinkles and Wrecks in the Age of Autonomous Vehicles. – New England Law Review 2012 (46) 3, lk 589.
*3 Intelligent robots development and distribution promotion act. Korean act No 9014, 28.03.2008. Arvutivõrgus: [Link] (26.02.2018).
*4 A. Bertolini. Robots as Products: The Case for a Realistic Analysis of Robotic Applications and Liability Rules. – Law Innovation and Technology 2013 (5) 2, lk 216. Arvutivõrgus: [Link].
*5 C. Leroux, R. Labruto. Suggestion for a Green Paper on legal issues in robotics. – European Commission, Cordis, 2012. Arvutivõrgus: [Link].
*6 Täpsemalt vt Guidelines on Regulating Robotics. – RoboLaw, 22.09.2014. Arvutivõrgus: [Link].
*7 Motion for a Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). European Parliament, Committee on Legal Affairs, 27.01.2015. Arvutivõrgus: [Link] (26.02.2018).
*8 Guidelines on Regulating Robotics. – RoboLaw (viide 6). Vt ka A. Bertolini, E. Palmerini. Regulating Robotics: A Challenge for Europe. – Upcoming Issues of EU Law. European Parliament 2014, lk 180. Arvutivõrgus: [Link].
*9 Motion for a Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics (viide 7).
*10 N. Nevejans. European Civil Law Rules in Robotics. Study PE 571.379. European Union 2016, lk 8. Arvutivõrgus: [Link].
*11 Lähemalt vt IFR forecast: 1.7 million new robots to transform the world´s factories by 2020. Arvutivõrgus: [Link] (10.10.2017).
*12 Vt nt Assistive technologies for people with disabilities. Part II: Current and emerging Technologies. EPRS_IDA(2018)603218. European Parliament, STOA 2018. Arvutivõrgus: [Link](2018)603218(ANN2)_EN.pdf (26.02.2018).
*13 J. A. Vahlberg. Tehisintellekti loomingu autoriõiguslik kaitse. Magistritöö. Juhendaja G. Lepik. Tartu Ülikool 2017, lk 10.
*14 Vt tehisintellekt Benjamini loodud stsenaariumi “Sunspring”. Arvutivõrgus: [Link] (12.10.2017).
*15 AIVA Technologiesi loodud tehisintellektist helilooja koht vt AI Composer Creates Music for Films and Games. – NVIDIA Developer, 16.03.2017. Arvutivõrgus: [Link] (12.10.2017); Google’i tehisintellekti kohta, mis suudab luua originaalseid algseid teoseid ja töötlusi, vt D. Gershgorn. These Are What the Google Artificial Intelligence’s Dreams Look Like. – Popular Science, 20.06.2015. Arvutivõrgus: [Link] (12.10.2017); tehisintellekti kohta, mis suutis kirjutada novelli, vt N. Rohaidi. Robot Almost Wins Short Story Writing Prize. – Asian Scientist Magazine, 06.04.2016. Arvutivõrgus: [Link] (12.10.2017).
*16 A. Aksiim. Enne kui masin ületab inimest. – Vikerkaar 2017/7–8. Arvutivõrgus: [Link] (24.09.2017).
*17 Nt J. A. Vahlberg (viide 13); K. Altroff. Masintõlkimise autoriõiguslikke küsimusi. Magistritöö. Juhendaja A. Kelli. Tartu Ülikool 2013; L. Unt. Digitaalvormis teostega seonduvad autoriõigusalased probleemid. Magistritöö. Juhendaja A. Kalvi. Tartu Ülikool 2012; R. Pärnpuu. Ontology Identification Problem in Computational Agents. Master’s thesis. Supervisor D. Cohnitz. University of Tartu 2016; M. Kotsar. Autonoomsete relvasüsteemide võimaliku keelustamise alustest rahvusvahelises õiguses. Magistritöö. Juhendaja L. Mälksoo. Tartu Ülikool 2017; R. Kinkar. Tootjavastutus ja juhi deliktiõiguslik vastutus autonoomsete sõidukite tehnoloogia puudusest tingitud kahju tekkimise korral. Magistritöö. Juhendaja M. Rosentau. Tartu Ülikool 2015.
*18 E. J. Zimmerman. Machine Minds: Frontiers in Legal Personhood. 2015, lk 14 Arvutivõrgus: [Link] (14.10.2017).
*19 Samas, lk 16.
*20 Madis Kotsar esitab oma 2017. aastal kaitstud magistritöös (viide 17, lk 8) viitega Ameerika Ühendriikide kaitseministeeriumi direktiivile nr 3000.09 järgmise definitsiooni: „[A]utonoomne relvasüsteem [on] defineeritud kui relvasüsteem, mis pärast aktiveerimist suudab iseseisvalt sihtmärke valida ja lahingutegevusse astuda ilma inimoperaatori sekkumiseta; nende hulka kuuluvad ka inimesepoolse järelevalve all olevad autonoomsed relvasüsteemid, mis on kavandatud selliselt, et võimaldavad inimoperaatoritel relvasüsteemilt kontrolli üle võtta, kuid on võimelised pärast aktiveerimist iseseisvalt sihtmärke valima ja ilma täiendava inimesepoolse tegevuseta lahingutegevusse astuma.“
*21 Teaduskirjanduses samastatakse aeg-ajalt tugev autonoomsus tehisintellektiga. Käesoleva artikli autorid selle seisukohaga ei nõustu, sest intelligentsuse eelduseks on küll autonoomsus, kuid on veel lisatingimus (vt intelligentsuse definitsiooni).
*22 A. Bertolini (viide 4), lk 217.
*23 S. Legg. Machine Super Intelligence. Doctoral Dissertation. Supervisor: Prof. Marcus Hutter. University of Lugano 2008.
*24 E. J. Zimmerman (viide 18), lk 16.
*25 S. Legg (viide 23), lk 6.
*26 E. J. Zimmerman (viide 18), lk 20.
*27 „Tehisintellekt“ – Eesti keele seletav sõnaraamat. M. Langemets jt (toim.). 2. tr. Eesti Keele Sihtasutus 2009. Arvutivõrgus: [Link] (07.09.2017).
*28 Vt nt N. Bostrom. Ethical Issues in Advanced Artificial Intelligence Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence. Vol. 2. I. Smit et al. (eds.). Int. Institute of Advanced Studies in Systems Research and Cybernetics 2003, lk 12–17.
*29 G. Hallevy. The Criminal Liability of Artificial Intelligence Entities – from Science Fiction to Legal Social Control. – Akron Intellectual Property Journal 2010 (4) 2, lk 175–176.
*30 J. A. Vahlberg (viide 13), lk 18.
*31 M. de Cock Buning. Autonomous Intelligent Systems as Creative Agents under the EU Framework for Intellectual Property. – European Journal of Risk Regulation 2016 (7) 2, lk 313.
*32 Testi läbimiseks peab tehisintellekt tegema järgi inimest selliselt, et vestluspartner ei saaks aru, et suhtleb tehisintellektiga. Selle testi lõi robootika isa Turing juba 1950. aastatel nn imiteerimismänguna. Vt A. M. Turing. Computing Machinery and Intelligence. – Mind 1950 (59), lk 433 jj; vt ka L. Solum. Legal Personhood for Artificial Intelligences. – North Carolina Law Review 1992 (70) 4, lk 1231–1288.
*33 S. Bayern. The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems. – European Journal of Risk Regulation 2016 (7) 2, lk 299.
*34 MIT’s AI passes Turing Test for sound. – Robohub, 13.06.2016. Arvutivõrgus: [Link] (22.08.2017).
*35 M. de Cock Buning (viide 31), lk 311.
*36 Samas, lk 310; vt ka V. Vinge. The Coming Technological Singularity: How to Survive in the Post-Human Era. Department of Mathematical Sciences San Diego State University 1993. Arvutivõrgus: [Link] (14.10.2017). Singulaarsuse kohta üldiselt vt V. Vinge. The Coming Technological Singularity: How to Survive in the Post-Human Era. – Whole Earth Review, Winter 1993.
*37 M. de Cock Buning (viide 31), lk 310.
*38 A. Bertolini (viide 4), lk 217.
*39 N. Nevejans (viide 10), lk 8.
*40 Kuigi ka roboti füüsilise keha olemasolu kui roboti obligatoorse eelduse osas on eriavamusi. Tunnustatakse, et on olemas ka digitaalseid roboteid nagu finantsrobotid.
*41 Teaduskirjanduses on sõnal „tehnoloogiline“ siinkohal primaarne tähendus, sest välistab sellisena „teadvuse“.
*42 Motion for a Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics (viide 9).
*43 G. P. Noone, D. C. Noone. The Debate Over Autonomous Weapons Systems. – Case Western Reserve Journal of International Law 2015 (47) 1, lk 27.
*44 N. Nevejans (viide 10), lk 10–11.
*45 J. S. Brodsky. Autonomous Vehicle Regulation: How an Uncertain Legal Landscape May Hit the Brakes on Self-Driving Cars. – Berkeley Technology Law Journal, Annual Review 2016 (31), lk 862.
*46 Samas, lk 863.
*47 S. Gless, E. Silverman, T. Weigend. If Robots Cause Harm, Who Is to Blame: Self-Driving Cars and Criminal Liability. – New Criminal Law Review 2016 (19) 3, lk 414.
*48 T. Burri. The Politics of Robot Autonomy. – European Journal of Risk Regulation 2016 (7) 2, lk 343.
*49 A. Bertolini (viide 4), lk 231.
*50 S. Gless jt (viide 47), lk 414.
*51 M. de Cock Buning (viide 31), lk 312.
*52 H. Surden, M. Williams. Technological Opacity, Predictability, and Self-Driving Cars. – Cardozo Law Review 2016 (38) 1, lk 147–149.
*53 Nt selgitatakse aruandes ajaloolis-kunstilist vaadet robotitele kui „negatiivsele“ läänelikus ajaloos. Kontrastiks on nimetatud ka, et näiteks Jaapani šintoistlikus vaates on robotil ka hing ning näiteks Lõuna-Koreas on intelligentne robot lausa kehtivas seaduses kajastatud: intelligentsete robotite arendamise ja leviku edendamise seaduse art 2 lg 1 defineerib intelligentse roboti kui mehhaanilise seadme, mis tajub väliskeskkonda, hindab olukordi ja liigub iseenesest. Vt Intelligent robots development and distribution promotion act. Korean act No 13744, 06.01.2016 – viidatud N. Nevejans (viide 10), lk 12 kaudu.
*54 Nt Bill Gates, Stephen Hawking, Elon Musk jt hoiatuskiri selle kohta, et tehisintellekt pöördub inimkonna ja inimsuse vastu, vt M. Sainato. Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence. – Observer, 19.08.2015. Arvutivõrgus: [Link] (14.10.2017).
*55 Näiteks vastukaja isejuhtivatele bussidele Eesti Euroopa Liidu Nõukogu eesistumise ajal.
*56 T. Burri (viide 48), lk 359.
*57 Samas.
*58 Robotit ja selle olemust on võrreldud ka orjaga Rooma õiguses (arvestades orja piiratud teo- ja õigusvõimet), kuid tunnistatud on ka analoogia probleemi, sest ori on inimene, kelleni robot oma olemuselt ei küüni, vt nt U. Pagallo. Killers, Fridges, and Salves: A Legal Journey in Robotics. – AI&Soc’y 2011 (26) 4, lk  347–348.
*59 A. Bertolini (viide 4), lk 230.
*60 Täpsemalt vt A. Bertolini (viide 4), lk 235.
*61 I. M. Ingles. Regulating Religious Robots: Free Exercise and RFRA in the Time of Superintelligent Artificial Intelligence. – Georgetown Law Journal 2017 (105) 2, lk 517.
*62 J. S. Brodsky (viide 45), lk 873; O. Ravid. Don’t Sue Me, I Was Just Lawfully Texting & Drunk When My Autonomous Car Crashing into You. – Southwestern Law Review 2014 (44) 1, lk 180.
*63 Tsiviilseadustiku üldosa seadus. – RT I 2002, 35, 216; RT I, 30.01.2018, 6.
*64 Näiteks algoritmi poolt kalkuleeritavate andmete ajutiseks võialatiseks talletamiseks.
*65 O. Ravid (viide 62), lk 180, 197; S. Bayern (viide 33), lk 297; B. van der Sloot. Smart Technologies and the End(s) of Law, by Mireille Hildebrandt. – European Data Protection Law Review 2015 (1) 2, lk 158. Algoritmide ja juriidilise isiku seoste ning kaasnevate ohtude kohta lisaks vt  L. M. LoPucki. Algorithmic Entities. – Wash. U. L. Rev. 2018 (95) 887. Arvutivõrgus: [Link] (13.02.2019).
*66 N. Nevejans (viide 10).
*67 Autonoomsete agentide kohta vt R. Calo. Open Robotics. – Maryland Law Review 2011 (70) 3, lk 573; G. Hallevy (viide 29), lk 179.
*68 B. van der Sloot (viide 65), lk 158.
*69 Vt allmärkus 53.
*70 Lisaks funktsionalistlikule arusaamale vajalikkusest kui sellisest on asjakohane, et mistahes süsteemi, masina või roboti käsitamine õigussubjektsena ei läheks vastuollu Euroopa humanistliku õigusajalooga. Kui leida, et ka robotil saab olla oma vara ja vastutus, siis selline arusaam võimaldaks jaatada, et autonoomsed intelligentsed robotid ei ole enam otseses peremees-ori-suhtes enda omaniku või valdajaga ning omavad võimet teha ise juhiste ulatuses otsuseid, sh ekslikke. Roboti kui mistahes vormis juriidilise isiku sarnase abstraktsioonina käsitamise vastu on õiguskirjanduses välja toodud, et robot saab eksisteerida füüsilises maailmas (kuigi näiteks finantsrobotil ei ole füüsilist keha), kuid juriidiline isik on abstraktsioon, mida füüsilises maailmas olemas ei ole. Tihti tuuakse sellise regulatsiooniviisi valiku näiteks, et juriidiline isik ei saa kunagi inimest füüsiliselt vigastada. Vt nt I. M. Ingles (viide 61), lk 516–517.
*71 S. Bayern (viide 33), lk 297.
*72 Samas, lk 298.
*73 Guidelines on Regulating Robotics (viide 6).
*74 T. Burri, I. Wildhaber. Introduction to the Special Issue on the Man and the Machine. – European Journal of Risk Regulation 2016 (7) 2, lk 295.
*75 Motion for a Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics (viide 9).
*76 Samas.
*77 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne. P. Varul jt (koost.). Juura 2010, § 7, lk 28.
*78 Pankrotiseadus. – RT I 2003, 17, 95; RT I, 31.05.2018, 30.
*79 Karistusseadustik. – RT I 2001, 61, 364; RT I, 04.01.2019, 15.
*80 RT I, 23.02.2012, 11; 04.07.2017, 64.
*81 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne (viide 77), § 24, lk 82; samuti RKHKo 3-3-1-43-06, p 21.
*82 RKHKo 3-3-1-43-06, p 24.
*83 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne (viide 77), § 24, lk 83.
*84 Siinjuures tuleb lisada, et karistusõigus ei tunne teovõimet, vaid süüvõimet (võime teada ühiskonnas kehtivaid norme ja juhtida omakäitumist nende normide järgi) ning deliktiõigus tunneb teovõime asemel mõistet „deliktivõime“ (võime saada aru oma teo õigusvastasusest). Ettenähtavas tulevikus ei ole intelligentse roboti suhtes mistahes põhjust jaatada delikti- või süüvõime olemasolu, sest tunnustame intelligentse roboti käitumist vaid selle pidaja/omaniku huvides, ning seega ei ole intelligentne robot deliktiõiguse ega karistusõiguse subjektiks.
*85 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne (viide 77), § 8, lk 38.
*86 Samas, § 11, lk 56.
*87 Näiteks tagamaks, et puudulike tehingute suhtes saaks kasutada äriõigusele omaseid lahendusi, näiteks tehingud, mis ületavad volitusi, on käsitatavad ultra vires tehingutena jne.
*88 A. Bertolini (viide 4), lk 242.
*89 RT I 2001, 81, 487; RT I, 22.03.2018, 4.
*90 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne (viide 77), lk 221.
*91 Motion for a Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics (viide 8).
*92 Tsiviilseadustiku üldosa seadus. Kommenteeritud väljaanne (viide 77), lk 221.