Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
Guntis Arnicāns: Skats uz mākslīgā intelekta sistēmu no komplekso sistēmu teorijas skatupunkta
1. Skats uz mākslīgā intelekta
sistēmu no komplekso sistēmu
teorijas skatupunkta
Guntis Arnicāns
Latvijas Universitāte
1
2. Kompleksas sistēmas
Sistēma ir kompleksa, ja par tās darbību kopumā
nevar spriest, tikai analizējot tās komponenšu
uzvedību
2
3. MIT kompleksās sistēmas definīcija
Massachusetts Institute of Technology:
«Kompleksa sistēma ir sistēma ar daudzām
komponentēm un savienojumiem starp tām, kas
ir grūti aprakstāma, saprotama, paredzama,
pārvaldāma, uzprojektējama, un/vai maināma»
Attēls: http://serc.carleton.edu 3
4. Kompleksa sistēma
• Skudru pūznis • Karakuģis
• Bišu saime • Internets
• Zivju bars • Skype
• Gājputnu kāsis • Robotu grupa
• Satiksme pilsētā
• Cilvēks
• Ģimene
• Organizācija
• Akciju tirgus
• Valsts ekonomika
• Valsts pārvalde
Attēls: http://www.presstv.ir
4
5. Simple vs. Complicated vs. Complex vs. Chaotic
• Simple (vienkārša)= viegli
izprotama
• Complicated (sarežģīta) =
nav vienkārša, bet tomēr
izprotama
• Complex (kompleksa) =
nepilnīgi izprotama, bet
tomēr saprātīgi
prognozējama
• Chaotic (haotiska) =
neizprotama un
neparedzama
• Vienkāršas un sarežģītas
sistēmas ir pilnībā
prognozējamas Attēls:
http://smartpei.typepad.com/robert_patersons_weblog/2009/115
/simple-vs-complicated-vs-complex-vs-chaotic---noopnl.html
6. Kompleksas sistēmas
raksturlielumi
• Liels skaits (parasti vienkāršu) komponenšu
• Mijiedarbība starp komponentēm:
– Dinamiska
– Daudz
– Nelineāra
• Nevajag tiešas saites starp attāliem elementiem – citi kalpo par
vidutājiem
• Nav centrālā organizatora
• Daudz (nelineāru) atgriezenisko saišu
• Atvērtas sistēmas
• Vēsture – ļoti svarīga
• Apakškomponentēm nav pieejama visa informācija, kas ir sistēmā,
tās reaģē uz lokālo informāciju
6
7. Kompleksas sistēmas īpašības
• Pašorganizācija, emerģence
• Evolūcija
• Ko-evolūcija, sinerģija
• Equilibrium un far-from-equilibrium stāvoklis
• Pozitīvās un negatīvās atgriezeniskās saites
• Mācīšanās un pašapmācīšanās
• Krīzes pārvarēšanas mehānismi
7
9. Mākslīgais intelekts
Vikipēdija:
«Mākslīgais intelekts (MI) jeb mākslīgais saprāts (angļu:
Artificial intelligence — AI) ir datorzinātņu un citu zinātņu
nozare, kas pēta mašīnu saprātīgu izturēšanos, apmācību un
pielāgošanos. MI ietvaros tiek pētīta saprātīgā uzvedība
(cilvēkiem, dzīvniekiem un mašīnām) un tiek mēģināts modelēt
šādu uzvedību mākslīgi radītā mašīnā; savukārt biologi ar MI
modeļu palīdzību pēta bioloģisko sistēmu, organismu uzvedību,
savstarpējo iedarbību.»
Hipotēze: Jo nopietnāka ir sistēma ar mākslīgo
intelektu, jo vairāk tā atgādina kompleksu sistēmu,
mantojot gan pozitīvās, gan negatīvās īpašības
9
10. Likumi un principi
• Vienkāršas mašīnas parasti darbojas ar skaidri
definētu likumu palīdzību (Ja ir situācija X, tad
veikt darbību Y)
• Sarežģītas/kompleksas [dabīgas] sistēmas
pamatā balstās uz principiem
– Piemēram, 10 Dieva baušļi:
5. Tev nebūs slepkavot.
6. Tev nebūs laulību pārkāpt.
7. Tev nebūs zagt.
8. Tev nebūs nepatiesu liecību dot pret savu tuvāko.
10
11. Trīs robottehnikas likumi (principi?)
Aizeks Azimovs:
1.Robots nedrīkst savainot cilvēku vai arī ar
bezdarbību pakļaut cilvēku savainojumiem.
2.Robotam jāklausa pavēlēm, ko dod cilvēki,
izņemot gadījumus, kad pavēles ir pretrunā ar
pirmo likumu.
3.Robotam jāaizsargā pašam sava eksistence, ja
vien tas nav pretrunā ar pirmo un otro likumu.
11
12. 0-tais robotu likums
• Kas notiek, ja robots glābj vienu cilvēku, bet tā
rezultātā cieš liels citu cilvēku daudzums?
– cilvēks dodas degošā atomreaktorā nospiest
avārijas pogas, lai apstādinātu katastrofu, bet
robots to nepieļauj
0. Robots nedrīkst kaitēt cilvēcei vai arī ar
bezdarbību pakļaut cilvēci kaitējumam
Ir radītas daudzas citas robotu likumu sistēmas, bet
mums diskusijai pilnīgi pietiks jau ar esošajiem 12
13. Likumu apiešana ar līkumu
Vai var ar robotu palīdzību veikt cilvēka
slepkavību, kas ir pretrunā ar robotu likumiem?
1.Slepkava liek robotam A glāzē ieliet ūdeni un
pievienot dažas nekaitīgas vielas
2.Slepkava liek robotam B glāzē pievienot klāt vēl dažas
nevainīgas vielas (tikai slepkava zina, ka ķīmisko
procesu rezultātā izveidojas inde)
3.Slepkava liek robotam C aiznest glāzi upurim, kad tas
lūgs padzerties
13
14. Cilvēka identificēšana
Kas ir «cilvēks»?
Lūdzu definīciju uz galda, vēlams instrukciju veidā, ko
var «ielādēt» robotam, lai tas varētu atšķirt galveno
objektu savos likumos!
Kompleksu sistēmu nevar precīzi aprakstīt!
Ja nav precīza apraksta, tad pastāv varbūtība, ka to
nespējam atpazīt.
– Cilvēks ar kāju/roku protēzēm, kārtīgi salabotiem zobiem,
mākslīgo sirdi, dzirdes aparātu, utt.
– Bērns, garīgi slims cilvēks, līķis, pērtiķis, utml.
14
15. Cilvēces un kaitējuma
identificēšana
• Kas ir «cilvēce»?
• Kas ir «kaitējums»?
– Tie ir abstrakti jēdzieni, ko mašīnai ar precīzu definīciju
nevar iemācīt (vismaz pašlaik)
• Kas ir mīlestība? Kas ir vardarbība?
– Cilvēks to iemācās atšķirt apmācības ceļā ilgstošā laikā
(mācīšanās, evolūcija gan cilvēkam, gan cilvēcei)
– Atkarība no skolotāja un vides
– Atkarība no iepriekšējās pieredzes (arī negatīvās!)
15
16. Dažādības loma
• Kompleksās sistēmas izdzīvošanai pieprasa
dažādību
Pārspīlēts piemērs, ja roboti «domā» vienādi :
– cilvēku daudzums pieaug;
– noteikts cilvēku daudzums apdraud cilvēces eksistenci;
– robots izskaitļo, ka iestājies kritiskais cilvēku daudzums;
– jāglābj cilvēce (0-tais likums), samazinot cilvēku skaitu!;
– robots iznīcina konkrētu cilvēku skaitu;
– un tā tai pašā brīdī domā un rīkojas arī visi pārējie roboti...
16
17. Bezizejas stāvoklis
• Vienlaicīgi
– cilvēks A robotam liek iznīcināt cilvēku B, sakot, ka cilvēce
briesmās, ja to neizdarīs;
– cilvēks B robotam liek iznīcināt cilvēku A, sakot, ka cilvēce
briesmās, ja to neizdarīs.
• Determinēta mašīna «sadeg» vai izsmeļ savus
resursus, meklējot pareizo risinājumu
– Neizdodas atrast risinājumu, lai nepārkāptu likumus
• Bezizejas stāvokli var likvidēt «metot monētu», bet
tad robota darbošanās ir varbūtiska un to nevar
precīzi prognozēt
17
18. Prioritātes un komandu
interpretācija
• Sieva robotam: «Iztīri istabas un lai trauki ir tīri!»
• Vīrs robotam: «Iznes miskasti un netraucē man
skatīties hokeju!»
• Ko un kādā secībā darīt nabaga robotam?
• Robots ezera krastā pieskata zīdaini un redz, ka ezerā
no laivas izvēlusies māte ar bērnu.
– Kā un ko glābt, ja vienlaicīgi var glābt vienu personu?
– Kā ar zīdaiņa pieskatīšanu?
18
19. Robota iznīcināšana un vairošanās
• Jo vairāk mašīna kļūs līdzīga cilvēkam, jo aktuālāks
paliks jautājums, vai robots drīkst iznīcināt citu
robotu vai veikt pašiznīcināšanu
– Vai drīkst? Kad drīkst?
– Vai cilvēks to drīkst?
• Vai robots drīkst vairoties?
– Jau pasen ir konstatēts, ka ir ļoti bīstami ļaut robotiem
vairoties (viens no nākošiem likumiem)
– Mēs netiekam galā pat ar it kā mazām kompleksajām
sistēmām (baktērijas, vīrusi) ...
19
20. «Atslēgšanās»
• Vīrs ar sievu izdomā pamīlēties. Robotam tiek
dota komanda «Atslēdz savus maņu orgānus
(sensorus), kamēr neatļaušu tos atkal
pieslēgt!»
• Kā kontrolēt apkārt notiekošo, lai atkal
«pieslēgtos»?
• Bet ja tajā brīdī mājā ienāk laupītājs, sākas
ugunsgrēks, utt.?
20
21. Ko robots drīkst darīt?
• Robots – ķirurgs
– «Griezt nedrīkst ļaut nomirt!»
– Robots nevar ielikt pareizā vietā komatu, jo kādu
no likumiem nākas pārkāpt
• Psiholoģiska cilvēka ievainošana
– Robots saka cilvēkam: «Tu esi piedzēries kā cūka»
– Robots tikai centās būt godīgs, nemelot un pateikt
cilvēkam viņam saprotamā leksikā patieso stāvokli
21
22. Enerģijas / resursu patēriņš
• Visi pašlaik zināmie «domāšanas procesi» patērē
būtisku enerģiju un laiku
• Strukturālā domāšana / nestrukturālā domāšana
– Pat vienkāršās determinētās spēlēs datori domā ilgi un netiek īpaši
tālāk par kādiem 10-15 gājieniem uz priekšu (strukturāla domāšana)
– Dabiskās sistēmas lēmumu var pieņemt ātri, bez daudzu variantu
apzinātas apskates (nestrukturālā domāšana), bet iespējama kļūda
• Ja tomēr kādreiz izdosies robotu iemācīt domāt
nestrukturāli, tad lēmums būs varbūtisks!
• Kā robotam noteikt, cik ilgi konkrētā [kritiskā] brīdī
var atļauties domāt?
22
23. Cīņa par resursiem
• Domāšana un fiziskā darbošanās patērē
enerģiju
– Izskatās, ja cilvēkveidīgam robotam nepieciešams
mini-kodolreaktors
• Vairāki roboti konstatē, ka viņiem jāuzlādējas,
bet ir tikai viena pieslēguma vieta...
• Gribot, negribot jāveido robotu sabiedrība un
jādefinē tajos likumi, ētikas kodekss
– Un kas tos ievēros?
23
24. Robotu sabiedrība
• Vai katrs cilvēks var komandēt jebkuru robotu?
• Vai viens robots var komandēt citus robotus?
• Vai nodrošināt anarhiju, totalitārismu/diktatūru vai
demokrātiju?
• Tiklīdz jāsāk domāt par robotu sabiedrību un tajā
valdošajiem likumiem, tā problēma kļūst daudzkārt
smagāka, jo, pētot kompleksās sistēmas, ir
konstatēts, ka strukturālā sarežģītība ir daudz
mazāka par organizacionālo sarežģītību
24
25. Robotu izveide un testēšana
• Kompleksas sistēmas nevar precīzi aprakstīt
(specifikācija izstrādei!)
• Daudzkārt grūtāk par izveidi ir kompleksu sistēmu
notestēt (atbilstoši kādiem kritērijiem notiks
pārbaude?)
• Adekvāti (nav runa par pilnīgi!) notestēt nevar pat
vienkāršas sistēmas!
• Vai esam gatavi atdot svarīgu jomu pārvaldi mašīnu
ziņā, ja tās principā nevar adekvāti notestēt?
25
26. Sistēmu kontrole
• Katrai sistēmai ir sava sarežģītība, ko var definēt, kā
zināšanu/informācijas daudzumu, ko tā sevī nes
(sistēmas darbošanās iespējas ir atkarīgas no
zināšanu daudzuma)
• Kontrolējošā sistēma var pilnībā kontrolēt
kontrolējamo sistēmu tad un tikai tad, ja
kontrolējošā sistēma ir sarežģītāka par kontrolējamo
sistēmu
– Realitātē neviena kompleksa sistēma nevar pilnībā
kontrolēt citu sistēmu
– Ja roboti intelektā tuvosies cilvēkam, tad cilvēks nevarēs
pilnībā kontrolēt robotu 26
27. Kas attīsta mākslīgo intelektu?
• Cilvēces progresu līdz šim visbūtiskāk ir veicinājuši
militāristi
– Mākslīgā intelekta pētījumi nav izņēmums
– Kādi ir militāristu patiesie mērķi, veidojot robotus?
– Kā tie saskan ar robotu likumiem, «ētikas kodeksu»?
• Robots būs kā cilvēka spoguļattēls un robotu
sabiedrība būs kā cilvēces spogulis
– Nevajag pat daudz fantazēt, pietiek paskatīties daudzas
uzņemtās filmas, kurās ir roboti
27
28. Robotu piederība
• Kam drīkstēs piederēt roboti?
• Kas uzņemsies atbildību par robota
sastrādātajām «ziepēm»?
• Ko un kā sodīs?
• Vai īpašnieks ir atbildīgs par apmācību?
• Ko un kā īpašnieks iemācīs robotam?
– Robots būs līdzīgs skolotājam
28
29. Evolūcija, attīstība
• Kas ir robota DNS jeb sākuma pirmkods?
• Kā un cik ātri notiks apmācība (zināšanu
uzkrāšana)?
• Kā tiks nodrošināta pārapmācība?
– Ko un kā liksim aizmirst?
– Kā iemācīsim jauno un sasaistīsim ar jau esošajām
zināšanām?
• Vienlaicīga programmatūras atjaunināšana
– Skype gandrīz apstājās 1-2 gadus atpakaļ
29
30. Noslēguma vietā
• Būs sistēmas ar mākslīgo intelektu, kas tuvosies
dabīgam intelektam, un tās būs kompleksas sistēmas
• Pieaugot intelektuālo sistēmu skaitam, tās veidos
augstāka līmeņa kompleksas sistēmas
• Agri vai vēlu cilvēki un roboti sāks konkurēt un būs
cīņa par «vietu zem saules»
• Ja cilvēks vēlas paturēt kontroli pār mašīnām, tad
jāveido hibrīdas sistēmas (cilvēks-mašīna),
nestrukturālo domāšanu vai kritisku lēmumu
pieņemšanu atstājot cilvēka ziņā
– maza varbūtība, ka cilvēce iegrožos savu «apetīti»
30