SlideShare a Scribd company logo
1 of 30
Skats uz mākslīgā intelekta
sistēmu no komplekso sistēmu
      teorijas skatupunkta
         Guntis Arnicāns
       Latvijas Universitāte



                                 1
Kompleksas sistēmas




Sistēma ir kompleksa, ja par tās darbību kopumā
nevar spriest, tikai analizējot tās komponenšu
uzvedību
                       2
MIT kompleksās sistēmas definīcija
Massachusetts Institute of Technology:
«Kompleksa sistēma ir sistēma ar daudzām
komponentēm un savienojumiem starp tām, kas
ir grūti aprakstāma, saprotama, paredzama,
pārvaldāma, uzprojektējama, un/vai maināma»




                         Attēls: http://serc.carleton.edu   3
Kompleksa sistēma
•   Skudru pūznis        •   Karakuģis
•   Bišu saime           •   Internets
•   Zivju bars           •   Skype
•   Gājputnu kāsis       •   Robotu grupa
                         •   Satiksme pilsētā
•   Cilvēks
•   Ģimene
•   Organizācija
•   Akciju tirgus
•   Valsts ekonomika
•   Valsts pārvalde
                        Attēls: http://www.presstv.ir
                                                        4
Simple vs. Complicated vs. Complex vs. Chaotic

• Simple (vienkārša)= viegli
  izprotama
• Complicated (sarežģīta) =
  nav vienkārša, bet tomēr
  izprotama
• Complex (kompleksa) =
  nepilnīgi izprotama, bet
  tomēr saprātīgi
  prognozējama
• Chaotic (haotiska) =
  neizprotama un
  neparedzama
• Vienkāršas un sarežģītas
  sistēmas ir pilnībā
  prognozējamas                Attēls:
                               http://smartpei.typepad.com/robert_patersons_weblog/2009/115
                               /simple-vs-complicated-vs-complex-vs-chaotic---noopnl.html
Kompleksas sistēmas
                raksturlielumi
• Liels skaits (parasti vienkāršu) komponenšu
• Mijiedarbība starp komponentēm:
   – Dinamiska
   – Daudz
   – Nelineāra
• Nevajag tiešas saites starp attāliem elementiem – citi kalpo par
  vidutājiem
• Nav centrālā organizatora
• Daudz (nelineāru) atgriezenisko saišu
• Atvērtas sistēmas
• Vēsture – ļoti svarīga
• Apakškomponentēm nav pieejama visa informācija, kas ir sistēmā,
  tās reaģē uz lokālo informāciju


                                                                     6
Kompleksas sistēmas īpašības
•   Pašorganizācija, emerģence
•   Evolūcija
•   Ko-evolūcija, sinerģija
•   Equilibrium un far-from-equilibrium stāvoklis
•   Pozitīvās un negatīvās atgriezeniskās saites
•   Mācīšanās un pašapmācīšanās
•   Krīzes pārvarēšanas mehānismi

                                                    7
Map of complexity science




                                      8
   Attēls: http://serc.carleton.edu
Mākslīgais intelekts
Vikipēdija:
«Mākslīgais intelekts (MI) jeb mākslīgais saprāts (angļu:
Artificial intelligence — AI) ir datorzinātņu un citu zinātņu
nozare, kas pēta mašīnu saprātīgu izturēšanos, apmācību un
pielāgošanos. MI ietvaros tiek pētīta saprātīgā uzvedība
(cilvēkiem, dzīvniekiem un mašīnām) un tiek mēģināts modelēt
šādu uzvedību mākslīgi radītā mašīnā; savukārt biologi ar MI
modeļu palīdzību pēta bioloģisko sistēmu, organismu uzvedību,
savstarpējo iedarbību.»
Hipotēze: Jo nopietnāka ir sistēma ar mākslīgo
intelektu, jo vairāk tā atgādina kompleksu sistēmu,
mantojot gan pozitīvās, gan negatīvās īpašības
                                                                9
Likumi un principi
• Vienkāršas mašīnas parasti darbojas ar skaidri
  definētu likumu palīdzību (Ja ir situācija X, tad
  veikt darbību Y)
• Sarežģītas/kompleksas [dabīgas] sistēmas
  pamatā balstās uz principiem
  – Piemēram, 10 Dieva baušļi:
     5.   Tev nebūs slepkavot.
     6.   Tev nebūs laulību pārkāpt.
     7.   Tev nebūs zagt.
     8.   Tev nebūs nepatiesu liecību dot pret savu tuvāko.


                                                              10
Trīs robottehnikas likumi (principi?)
Aizeks Azimovs:
1.Robots nedrīkst savainot cilvēku vai arī ar
bezdarbību pakļaut cilvēku savainojumiem.
2.Robotam jāklausa pavēlēm, ko dod cilvēki,
izņemot gadījumus, kad pavēles ir pretrunā ar
pirmo likumu.
3.Robotam jāaizsargā pašam sava eksistence, ja
vien tas nav pretrunā ar pirmo un otro likumu.

                                                 11
0-tais robotu likums
• Kas notiek, ja robots glābj vienu cilvēku, bet tā
  rezultātā cieš liels citu cilvēku daudzums?
   – cilvēks dodas degošā atomreaktorā nospiest
     avārijas pogas, lai apstādinātu katastrofu, bet
     robots to nepieļauj
0. Robots nedrīkst kaitēt cilvēcei vai arī ar
  bezdarbību pakļaut cilvēci kaitējumam

Ir radītas daudzas citas robotu likumu sistēmas, bet
   mums diskusijai pilnīgi pietiks jau ar esošajiem    12
Likumu apiešana ar līkumu
Vai var ar robotu palīdzību veikt cilvēka
slepkavību, kas ir pretrunā ar robotu likumiem?

1.Slepkava liek robotam A glāzē ieliet ūdeni un
pievienot dažas nekaitīgas vielas
2.Slepkava liek robotam B glāzē pievienot klāt vēl dažas
nevainīgas vielas (tikai slepkava zina, ka ķīmisko
procesu rezultātā izveidojas inde)
3.Slepkava liek robotam C aiznest glāzi upurim, kad tas
lūgs padzerties
                                                       13
Cilvēka identificēšana
Kas ir «cilvēks»?
Lūdzu definīciju uz galda, vēlams instrukciju veidā, ko
var «ielādēt» robotam, lai tas varētu atšķirt galveno
objektu savos likumos!
Kompleksu sistēmu nevar precīzi aprakstīt!
Ja nav precīza apraksta, tad pastāv varbūtība, ka to
nespējam atpazīt.
   – Cilvēks ar kāju/roku protēzēm, kārtīgi salabotiem zobiem,
     mākslīgo sirdi, dzirdes aparātu, utt.
   – Bērns, garīgi slims cilvēks, līķis, pērtiķis, utml.

                                                                 14
Cilvēces un kaitējuma
                identificēšana
• Kas ir «cilvēce»?
• Kas ir «kaitējums»?
   – Tie ir abstrakti jēdzieni, ko mašīnai ar precīzu definīciju
     nevar iemācīt (vismaz pašlaik)


• Kas ir mīlestība? Kas ir vardarbība?
   – Cilvēks to iemācās atšķirt apmācības ceļā ilgstošā laikā
     (mācīšanās, evolūcija gan cilvēkam, gan cilvēcei)
   – Atkarība no skolotāja un vides
   – Atkarība no iepriekšējās pieredzes (arī negatīvās!)
                                                                   15
Dažādības loma
• Kompleksās sistēmas izdzīvošanai pieprasa
  dažādību
Pārspīlēts piemērs, ja roboti «domā» vienādi :
   –   cilvēku daudzums pieaug;
   –   noteikts cilvēku daudzums apdraud cilvēces eksistenci;
   –   robots izskaitļo, ka iestājies kritiskais cilvēku daudzums;
   –   jāglābj cilvēce (0-tais likums), samazinot cilvēku skaitu!;
   –   robots iznīcina konkrētu cilvēku skaitu;
   –   un tā tai pašā brīdī domā un rīkojas arī visi pārējie roboti...

                                                                     16
Bezizejas stāvoklis
• Vienlaicīgi
   – cilvēks A robotam liek iznīcināt cilvēku B, sakot, ka cilvēce
     briesmās, ja to neizdarīs;
   – cilvēks B robotam liek iznīcināt cilvēku A, sakot, ka cilvēce
     briesmās, ja to neizdarīs.
• Determinēta mašīna «sadeg» vai izsmeļ savus
  resursus, meklējot pareizo risinājumu
   – Neizdodas atrast risinājumu, lai nepārkāptu likumus
• Bezizejas stāvokli var likvidēt «metot monētu», bet
  tad robota darbošanās ir varbūtiska un to nevar
  precīzi prognozēt
                                                                     17
Prioritātes un komandu
               interpretācija
• Sieva robotam: «Iztīri istabas un lai trauki ir tīri!»
• Vīrs robotam: «Iznes miskasti un netraucē man
  skatīties hokeju!»
• Ko un kādā secībā darīt nabaga robotam?

• Robots ezera krastā pieskata zīdaini un redz, ka ezerā
  no laivas izvēlusies māte ar bērnu.
   – Kā un ko glābt, ja vienlaicīgi var glābt vienu personu?
   – Kā ar zīdaiņa pieskatīšanu?

                                                               18
Robota iznīcināšana un vairošanās
• Jo vairāk mašīna kļūs līdzīga cilvēkam, jo aktuālāks
  paliks jautājums, vai robots drīkst iznīcināt citu
  robotu vai veikt pašiznīcināšanu
   – Vai drīkst? Kad drīkst?
   – Vai cilvēks to drīkst?
• Vai robots drīkst vairoties?
   – Jau pasen ir konstatēts, ka ir ļoti bīstami ļaut robotiem
     vairoties (viens no nākošiem likumiem)
   – Mēs netiekam galā pat ar it kā mazām kompleksajām
     sistēmām (baktērijas, vīrusi) ...

                                                                 19
«Atslēgšanās»
• Vīrs ar sievu izdomā pamīlēties. Robotam tiek
  dota komanda «Atslēdz savus maņu orgānus
  (sensorus), kamēr neatļaušu tos atkal
  pieslēgt!»

• Kā kontrolēt apkārt notiekošo, lai atkal
  «pieslēgtos»?
• Bet ja tajā brīdī mājā ienāk laupītājs, sākas
  ugunsgrēks, utt.?
                                                  20
Ko robots drīkst darīt?
• Robots – ķirurgs
  – «Griezt nedrīkst ļaut nomirt!»
  – Robots nevar ielikt pareizā vietā komatu, jo kādu
    no likumiem nākas pārkāpt
• Psiholoģiska cilvēka ievainošana
  – Robots saka cilvēkam: «Tu esi piedzēries kā cūka»
  – Robots tikai centās būt godīgs, nemelot un pateikt
    cilvēkam viņam saprotamā leksikā patieso stāvokli

                                                        21
Enerģijas / resursu patēriņš
• Visi pašlaik zināmie «domāšanas procesi» patērē
  būtisku enerģiju un laiku
• Strukturālā domāšana / nestrukturālā domāšana
   – Pat vienkāršās determinētās spēlēs datori domā ilgi un netiek īpaši
     tālāk par kādiem 10-15 gājieniem uz priekšu (strukturāla domāšana)
   – Dabiskās sistēmas lēmumu var pieņemt ātri, bez daudzu variantu
     apzinātas apskates (nestrukturālā domāšana), bet iespējama kļūda
• Ja tomēr kādreiz izdosies robotu iemācīt domāt
  nestrukturāli, tad lēmums būs varbūtisks!
• Kā robotam noteikt, cik ilgi konkrētā [kritiskā] brīdī
  var atļauties domāt?
                                                                           22
Cīņa par resursiem
• Domāšana un fiziskā darbošanās patērē
  enerģiju
  – Izskatās, ja cilvēkveidīgam robotam nepieciešams
    mini-kodolreaktors
• Vairāki roboti konstatē, ka viņiem jāuzlādējas,
  bet ir tikai viena pieslēguma vieta...
• Gribot, negribot jāveido robotu sabiedrība un
  jādefinē tajos likumi, ētikas kodekss
  – Un kas tos ievēros?
                                                       23
Robotu sabiedrība
• Vai katrs cilvēks var komandēt jebkuru robotu?
• Vai viens robots var komandēt citus robotus?
• Vai nodrošināt anarhiju, totalitārismu/diktatūru vai
  demokrātiju?

• Tiklīdz jāsāk domāt par robotu sabiedrību un tajā
  valdošajiem likumiem, tā problēma kļūst daudzkārt
  smagāka, jo, pētot kompleksās sistēmas, ir
  konstatēts, ka strukturālā sarežģītība ir daudz
  mazāka par organizacionālo sarežģītību
                                                         24
Robotu izveide un testēšana
• Kompleksas sistēmas nevar precīzi aprakstīt
  (specifikācija izstrādei!)
• Daudzkārt grūtāk par izveidi ir kompleksu sistēmu
  notestēt (atbilstoši kādiem kritērijiem notiks
  pārbaude?)
• Adekvāti (nav runa par pilnīgi!) notestēt nevar pat
  vienkāršas sistēmas!
• Vai esam gatavi atdot svarīgu jomu pārvaldi mašīnu
  ziņā, ja tās principā nevar adekvāti notestēt?

                                                        25
Sistēmu kontrole
• Katrai sistēmai ir sava sarežģītība, ko var definēt, kā
  zināšanu/informācijas daudzumu, ko tā sevī nes
  (sistēmas darbošanās iespējas ir atkarīgas no
  zināšanu daudzuma)
• Kontrolējošā sistēma var pilnībā kontrolēt
  kontrolējamo sistēmu tad un tikai tad, ja
  kontrolējošā sistēma ir sarežģītāka par kontrolējamo
  sistēmu
   – Realitātē neviena kompleksa sistēma nevar pilnībā
     kontrolēt citu sistēmu
   – Ja roboti intelektā tuvosies cilvēkam, tad cilvēks nevarēs
     pilnībā kontrolēt robotu                                     26
Kas attīsta mākslīgo intelektu?
• Cilvēces progresu līdz šim visbūtiskāk ir veicinājuši
  militāristi
   – Mākslīgā intelekta pētījumi nav izņēmums
   – Kādi ir militāristu patiesie mērķi, veidojot robotus?
   – Kā tie saskan ar robotu likumiem, «ētikas kodeksu»?


• Robots būs kā cilvēka spoguļattēls un robotu
  sabiedrība būs kā cilvēces spogulis
   – Nevajag pat daudz fantazēt, pietiek paskatīties daudzas
     uzņemtās filmas, kurās ir roboti
                                                               27
Robotu piederība
• Kam drīkstēs piederēt roboti?
• Kas uzņemsies atbildību par robota
  sastrādātajām «ziepēm»?
• Ko un kā sodīs?
• Vai īpašnieks ir atbildīgs par apmācību?
• Ko un kā īpašnieks iemācīs robotam?
  – Robots būs līdzīgs skolotājam


                                             28
Evolūcija, attīstība
• Kas ir robota DNS jeb sākuma pirmkods?
• Kā un cik ātri notiks apmācība (zināšanu
  uzkrāšana)?
• Kā tiks nodrošināta pārapmācība?
  – Ko un kā liksim aizmirst?
  – Kā iemācīsim jauno un sasaistīsim ar jau esošajām
    zināšanām?
• Vienlaicīga programmatūras atjaunināšana
  – Skype gandrīz apstājās 1-2 gadus atpakaļ
                                                    29
Noslēguma vietā
• Būs sistēmas ar mākslīgo intelektu, kas tuvosies
  dabīgam intelektam, un tās būs kompleksas sistēmas
• Pieaugot intelektuālo sistēmu skaitam, tās veidos
  augstāka līmeņa kompleksas sistēmas
• Agri vai vēlu cilvēki un roboti sāks konkurēt un būs
  cīņa par «vietu zem saules»
• Ja cilvēks vēlas paturēt kontroli pār mašīnām, tad
  jāveido hibrīdas sistēmas (cilvēks-mašīna),
  nestrukturālo domāšanu vai kritisku lēmumu
  pieņemšanu atstājot cilvēka ziņā
   – maza varbūtība, ka cilvēce iegrožos savu «apetīti»
                                                          30

More Related Content

More from SkeptiCafe

Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija Perepjolkina
Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija PerepjolkinaSkepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija Perepjolkina
Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija PerepjolkinaSkeptiCafe
 
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...SkeptiCafe
 
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017SkeptiCafe
 
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramos
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramosGuntis Kuļikovskis: Divi simti ampēru trijos kilogramos
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramosSkeptiCafe
 
Solvita Olsena: Sievietes reproduktīvās tiesības Latvijā
Solvita Olsena: Sievietes reproduktīvās tiesības LatvijāSolvita Olsena: Sievietes reproduktīvās tiesības Latvijā
Solvita Olsena: Sievietes reproduktīvās tiesības LatvijāSkeptiCafe
 
Signe Mežinska: Racionāla zāļu lietošana
Signe Mežinska: Racionāla zāļu lietošanaSigne Mežinska: Racionāla zāļu lietošana
Signe Mežinska: Racionāla zāļu lietošanaSkeptiCafe
 
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.SkeptiCafe
 
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?SkeptiCafe
 

More from SkeptiCafe (8)

Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija Perepjolkina
Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija PerepjolkinaSkepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija Perepjolkina
Skepticafe "Kādā kastē var ielikt cilvēku?" | Viktorija Perepjolkina
 
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...
SceptiCafe - Patiesība par vakcināciju - Vakcīnu veidi un darbība - Dr. med. ...
 
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017
SceptiCafe - patiesība par vakcināciju - Dr. Liene Čupāne 27.04.2017
 
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramos
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramosGuntis Kuļikovskis: Divi simti ampēru trijos kilogramos
Guntis Kuļikovskis: Divi simti ampēru trijos kilogramos
 
Solvita Olsena: Sievietes reproduktīvās tiesības Latvijā
Solvita Olsena: Sievietes reproduktīvās tiesības LatvijāSolvita Olsena: Sievietes reproduktīvās tiesības Latvijā
Solvita Olsena: Sievietes reproduktīvās tiesības Latvijā
 
Signe Mežinska: Racionāla zāļu lietošana
Signe Mežinska: Racionāla zāļu lietošanaSigne Mežinska: Racionāla zāļu lietošana
Signe Mežinska: Racionāla zāļu lietošana
 
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.
Mārtiņs Vaivars: Ievads loģikas kļūdās: kā trenēties tās nepieļaut un atpazīt.
 
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
Mārtiņš Hiršs: Kāpēc cilvēki tic sazvērestības teorijām?
 

Guntis Arnicāns: Skats uz mākslīgā intelekta sistēmu no komplekso sistēmu teorijas skatupunkta

  • 1. Skats uz mākslīgā intelekta sistēmu no komplekso sistēmu teorijas skatupunkta Guntis Arnicāns Latvijas Universitāte 1
  • 2. Kompleksas sistēmas Sistēma ir kompleksa, ja par tās darbību kopumā nevar spriest, tikai analizējot tās komponenšu uzvedību 2
  • 3. MIT kompleksās sistēmas definīcija Massachusetts Institute of Technology: «Kompleksa sistēma ir sistēma ar daudzām komponentēm un savienojumiem starp tām, kas ir grūti aprakstāma, saprotama, paredzama, pārvaldāma, uzprojektējama, un/vai maināma» Attēls: http://serc.carleton.edu 3
  • 4. Kompleksa sistēma • Skudru pūznis • Karakuģis • Bišu saime • Internets • Zivju bars • Skype • Gājputnu kāsis • Robotu grupa • Satiksme pilsētā • Cilvēks • Ģimene • Organizācija • Akciju tirgus • Valsts ekonomika • Valsts pārvalde Attēls: http://www.presstv.ir 4
  • 5. Simple vs. Complicated vs. Complex vs. Chaotic • Simple (vienkārša)= viegli izprotama • Complicated (sarežģīta) = nav vienkārša, bet tomēr izprotama • Complex (kompleksa) = nepilnīgi izprotama, bet tomēr saprātīgi prognozējama • Chaotic (haotiska) = neizprotama un neparedzama • Vienkāršas un sarežģītas sistēmas ir pilnībā prognozējamas Attēls: http://smartpei.typepad.com/robert_patersons_weblog/2009/115 /simple-vs-complicated-vs-complex-vs-chaotic---noopnl.html
  • 6. Kompleksas sistēmas raksturlielumi • Liels skaits (parasti vienkāršu) komponenšu • Mijiedarbība starp komponentēm: – Dinamiska – Daudz – Nelineāra • Nevajag tiešas saites starp attāliem elementiem – citi kalpo par vidutājiem • Nav centrālā organizatora • Daudz (nelineāru) atgriezenisko saišu • Atvērtas sistēmas • Vēsture – ļoti svarīga • Apakškomponentēm nav pieejama visa informācija, kas ir sistēmā, tās reaģē uz lokālo informāciju 6
  • 7. Kompleksas sistēmas īpašības • Pašorganizācija, emerģence • Evolūcija • Ko-evolūcija, sinerģija • Equilibrium un far-from-equilibrium stāvoklis • Pozitīvās un negatīvās atgriezeniskās saites • Mācīšanās un pašapmācīšanās • Krīzes pārvarēšanas mehānismi 7
  • 8. Map of complexity science 8 Attēls: http://serc.carleton.edu
  • 9. Mākslīgais intelekts Vikipēdija: «Mākslīgais intelekts (MI) jeb mākslīgais saprāts (angļu: Artificial intelligence — AI) ir datorzinātņu un citu zinātņu nozare, kas pēta mašīnu saprātīgu izturēšanos, apmācību un pielāgošanos. MI ietvaros tiek pētīta saprātīgā uzvedība (cilvēkiem, dzīvniekiem un mašīnām) un tiek mēģināts modelēt šādu uzvedību mākslīgi radītā mašīnā; savukārt biologi ar MI modeļu palīdzību pēta bioloģisko sistēmu, organismu uzvedību, savstarpējo iedarbību.» Hipotēze: Jo nopietnāka ir sistēma ar mākslīgo intelektu, jo vairāk tā atgādina kompleksu sistēmu, mantojot gan pozitīvās, gan negatīvās īpašības 9
  • 10. Likumi un principi • Vienkāršas mašīnas parasti darbojas ar skaidri definētu likumu palīdzību (Ja ir situācija X, tad veikt darbību Y) • Sarežģītas/kompleksas [dabīgas] sistēmas pamatā balstās uz principiem – Piemēram, 10 Dieva baušļi: 5. Tev nebūs slepkavot. 6. Tev nebūs laulību pārkāpt. 7. Tev nebūs zagt. 8. Tev nebūs nepatiesu liecību dot pret savu tuvāko. 10
  • 11. Trīs robottehnikas likumi (principi?) Aizeks Azimovs: 1.Robots nedrīkst savainot cilvēku vai arī ar bezdarbību pakļaut cilvēku savainojumiem. 2.Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu. 3.Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu. 11
  • 12. 0-tais robotu likums • Kas notiek, ja robots glābj vienu cilvēku, bet tā rezultātā cieš liels citu cilvēku daudzums? – cilvēks dodas degošā atomreaktorā nospiest avārijas pogas, lai apstādinātu katastrofu, bet robots to nepieļauj 0. Robots nedrīkst kaitēt cilvēcei vai arī ar bezdarbību pakļaut cilvēci kaitējumam Ir radītas daudzas citas robotu likumu sistēmas, bet mums diskusijai pilnīgi pietiks jau ar esošajiem 12
  • 13. Likumu apiešana ar līkumu Vai var ar robotu palīdzību veikt cilvēka slepkavību, kas ir pretrunā ar robotu likumiem? 1.Slepkava liek robotam A glāzē ieliet ūdeni un pievienot dažas nekaitīgas vielas 2.Slepkava liek robotam B glāzē pievienot klāt vēl dažas nevainīgas vielas (tikai slepkava zina, ka ķīmisko procesu rezultātā izveidojas inde) 3.Slepkava liek robotam C aiznest glāzi upurim, kad tas lūgs padzerties 13
  • 14. Cilvēka identificēšana Kas ir «cilvēks»? Lūdzu definīciju uz galda, vēlams instrukciju veidā, ko var «ielādēt» robotam, lai tas varētu atšķirt galveno objektu savos likumos! Kompleksu sistēmu nevar precīzi aprakstīt! Ja nav precīza apraksta, tad pastāv varbūtība, ka to nespējam atpazīt. – Cilvēks ar kāju/roku protēzēm, kārtīgi salabotiem zobiem, mākslīgo sirdi, dzirdes aparātu, utt. – Bērns, garīgi slims cilvēks, līķis, pērtiķis, utml. 14
  • 15. Cilvēces un kaitējuma identificēšana • Kas ir «cilvēce»? • Kas ir «kaitējums»? – Tie ir abstrakti jēdzieni, ko mašīnai ar precīzu definīciju nevar iemācīt (vismaz pašlaik) • Kas ir mīlestība? Kas ir vardarbība? – Cilvēks to iemācās atšķirt apmācības ceļā ilgstošā laikā (mācīšanās, evolūcija gan cilvēkam, gan cilvēcei) – Atkarība no skolotāja un vides – Atkarība no iepriekšējās pieredzes (arī negatīvās!) 15
  • 16. Dažādības loma • Kompleksās sistēmas izdzīvošanai pieprasa dažādību Pārspīlēts piemērs, ja roboti «domā» vienādi : – cilvēku daudzums pieaug; – noteikts cilvēku daudzums apdraud cilvēces eksistenci; – robots izskaitļo, ka iestājies kritiskais cilvēku daudzums; – jāglābj cilvēce (0-tais likums), samazinot cilvēku skaitu!; – robots iznīcina konkrētu cilvēku skaitu; – un tā tai pašā brīdī domā un rīkojas arī visi pārējie roboti... 16
  • 17. Bezizejas stāvoklis • Vienlaicīgi – cilvēks A robotam liek iznīcināt cilvēku B, sakot, ka cilvēce briesmās, ja to neizdarīs; – cilvēks B robotam liek iznīcināt cilvēku A, sakot, ka cilvēce briesmās, ja to neizdarīs. • Determinēta mašīna «sadeg» vai izsmeļ savus resursus, meklējot pareizo risinājumu – Neizdodas atrast risinājumu, lai nepārkāptu likumus • Bezizejas stāvokli var likvidēt «metot monētu», bet tad robota darbošanās ir varbūtiska un to nevar precīzi prognozēt 17
  • 18. Prioritātes un komandu interpretācija • Sieva robotam: «Iztīri istabas un lai trauki ir tīri!» • Vīrs robotam: «Iznes miskasti un netraucē man skatīties hokeju!» • Ko un kādā secībā darīt nabaga robotam? • Robots ezera krastā pieskata zīdaini un redz, ka ezerā no laivas izvēlusies māte ar bērnu. – Kā un ko glābt, ja vienlaicīgi var glābt vienu personu? – Kā ar zīdaiņa pieskatīšanu? 18
  • 19. Robota iznīcināšana un vairošanās • Jo vairāk mašīna kļūs līdzīga cilvēkam, jo aktuālāks paliks jautājums, vai robots drīkst iznīcināt citu robotu vai veikt pašiznīcināšanu – Vai drīkst? Kad drīkst? – Vai cilvēks to drīkst? • Vai robots drīkst vairoties? – Jau pasen ir konstatēts, ka ir ļoti bīstami ļaut robotiem vairoties (viens no nākošiem likumiem) – Mēs netiekam galā pat ar it kā mazām kompleksajām sistēmām (baktērijas, vīrusi) ... 19
  • 20. «Atslēgšanās» • Vīrs ar sievu izdomā pamīlēties. Robotam tiek dota komanda «Atslēdz savus maņu orgānus (sensorus), kamēr neatļaušu tos atkal pieslēgt!» • Kā kontrolēt apkārt notiekošo, lai atkal «pieslēgtos»? • Bet ja tajā brīdī mājā ienāk laupītājs, sākas ugunsgrēks, utt.? 20
  • 21. Ko robots drīkst darīt? • Robots – ķirurgs – «Griezt nedrīkst ļaut nomirt!» – Robots nevar ielikt pareizā vietā komatu, jo kādu no likumiem nākas pārkāpt • Psiholoģiska cilvēka ievainošana – Robots saka cilvēkam: «Tu esi piedzēries kā cūka» – Robots tikai centās būt godīgs, nemelot un pateikt cilvēkam viņam saprotamā leksikā patieso stāvokli 21
  • 22. Enerģijas / resursu patēriņš • Visi pašlaik zināmie «domāšanas procesi» patērē būtisku enerģiju un laiku • Strukturālā domāšana / nestrukturālā domāšana – Pat vienkāršās determinētās spēlēs datori domā ilgi un netiek īpaši tālāk par kādiem 10-15 gājieniem uz priekšu (strukturāla domāšana) – Dabiskās sistēmas lēmumu var pieņemt ātri, bez daudzu variantu apzinātas apskates (nestrukturālā domāšana), bet iespējama kļūda • Ja tomēr kādreiz izdosies robotu iemācīt domāt nestrukturāli, tad lēmums būs varbūtisks! • Kā robotam noteikt, cik ilgi konkrētā [kritiskā] brīdī var atļauties domāt? 22
  • 23. Cīņa par resursiem • Domāšana un fiziskā darbošanās patērē enerģiju – Izskatās, ja cilvēkveidīgam robotam nepieciešams mini-kodolreaktors • Vairāki roboti konstatē, ka viņiem jāuzlādējas, bet ir tikai viena pieslēguma vieta... • Gribot, negribot jāveido robotu sabiedrība un jādefinē tajos likumi, ētikas kodekss – Un kas tos ievēros? 23
  • 24. Robotu sabiedrība • Vai katrs cilvēks var komandēt jebkuru robotu? • Vai viens robots var komandēt citus robotus? • Vai nodrošināt anarhiju, totalitārismu/diktatūru vai demokrātiju? • Tiklīdz jāsāk domāt par robotu sabiedrību un tajā valdošajiem likumiem, tā problēma kļūst daudzkārt smagāka, jo, pētot kompleksās sistēmas, ir konstatēts, ka strukturālā sarežģītība ir daudz mazāka par organizacionālo sarežģītību 24
  • 25. Robotu izveide un testēšana • Kompleksas sistēmas nevar precīzi aprakstīt (specifikācija izstrādei!) • Daudzkārt grūtāk par izveidi ir kompleksu sistēmu notestēt (atbilstoši kādiem kritērijiem notiks pārbaude?) • Adekvāti (nav runa par pilnīgi!) notestēt nevar pat vienkāršas sistēmas! • Vai esam gatavi atdot svarīgu jomu pārvaldi mašīnu ziņā, ja tās principā nevar adekvāti notestēt? 25
  • 26. Sistēmu kontrole • Katrai sistēmai ir sava sarežģītība, ko var definēt, kā zināšanu/informācijas daudzumu, ko tā sevī nes (sistēmas darbošanās iespējas ir atkarīgas no zināšanu daudzuma) • Kontrolējošā sistēma var pilnībā kontrolēt kontrolējamo sistēmu tad un tikai tad, ja kontrolējošā sistēma ir sarežģītāka par kontrolējamo sistēmu – Realitātē neviena kompleksa sistēma nevar pilnībā kontrolēt citu sistēmu – Ja roboti intelektā tuvosies cilvēkam, tad cilvēks nevarēs pilnībā kontrolēt robotu 26
  • 27. Kas attīsta mākslīgo intelektu? • Cilvēces progresu līdz šim visbūtiskāk ir veicinājuši militāristi – Mākslīgā intelekta pētījumi nav izņēmums – Kādi ir militāristu patiesie mērķi, veidojot robotus? – Kā tie saskan ar robotu likumiem, «ētikas kodeksu»? • Robots būs kā cilvēka spoguļattēls un robotu sabiedrība būs kā cilvēces spogulis – Nevajag pat daudz fantazēt, pietiek paskatīties daudzas uzņemtās filmas, kurās ir roboti 27
  • 28. Robotu piederība • Kam drīkstēs piederēt roboti? • Kas uzņemsies atbildību par robota sastrādātajām «ziepēm»? • Ko un kā sodīs? • Vai īpašnieks ir atbildīgs par apmācību? • Ko un kā īpašnieks iemācīs robotam? – Robots būs līdzīgs skolotājam 28
  • 29. Evolūcija, attīstība • Kas ir robota DNS jeb sākuma pirmkods? • Kā un cik ātri notiks apmācība (zināšanu uzkrāšana)? • Kā tiks nodrošināta pārapmācība? – Ko un kā liksim aizmirst? – Kā iemācīsim jauno un sasaistīsim ar jau esošajām zināšanām? • Vienlaicīga programmatūras atjaunināšana – Skype gandrīz apstājās 1-2 gadus atpakaļ 29
  • 30. Noslēguma vietā • Būs sistēmas ar mākslīgo intelektu, kas tuvosies dabīgam intelektam, un tās būs kompleksas sistēmas • Pieaugot intelektuālo sistēmu skaitam, tās veidos augstāka līmeņa kompleksas sistēmas • Agri vai vēlu cilvēki un roboti sāks konkurēt un būs cīņa par «vietu zem saules» • Ja cilvēks vēlas paturēt kontroli pār mašīnām, tad jāveido hibrīdas sistēmas (cilvēks-mašīna), nestrukturālo domāšanu vai kritisku lēmumu pieņemšanu atstājot cilvēka ziņā – maza varbūtība, ka cilvēce iegrožos savu «apetīti» 30