#60 (SLO): O umetni inteligenci nekdaj in danes - pogovor z Ivanom Bratkom

V posebni epizodi ASEF Podcasta, v sodelovanju s SLOAI in KCUI, Frenk Dragar gosti dr. Ivana Bratka, kjer je beseda tekla o o umetni inteligenci nekdaj in danes.

Dr. Ivan Bratko je profesor na Fakulteti za računalništvo in informatiko na Univerzi v Ljubljani in pionir raziskovanja umetne inteligence v Sloveniji, začetki katerega segajo v leto 1970. Njegovi najpomembnejši prispevki so na področju strojnega učenja, logičnega programiranja in kvalitativnega modeliranja, z aplikacijami v medicini, ekologiji in robotiki. Ustanovil in vodil je laboratorija za umetno inteligenco na Fakulteti za računalništvo in informatiko in na Institutu Jožef Stefan, kot gostujoči profesor pa je deloval na univerzah po Evropi, Ameriki in Avstraliji. Je avtor več kot 300 znanstvenih člankov in knjig, med drugim mednarodno priznanega učbenika "Prolog Programming for Artificial Intelligence", ter Fellow pri European Association for Artificial Intelligence (EurAI) in redni član SAZU in IAS. Je tudi dolgoletni vodja tutorske skupine za računalništvo pri ASEF, kjer je leta 2025 prejel priznanje ASEF ZGLED, leta 2026 pa mu je predsednica Republike Slovenije Nataša Pirc Musar podelila zlati red za zasluge zaradi izjemnih prispevkov k utemeljitvi in razvoju umetne inteligence v Sloveniji.

Pogovor vodi Frenk Dragar, ASEF alumnus, soustanovitelj SLOAI.

https://www.asef.net/
https://sloai.org/
https://kcui.si/

If you enjoyed this episode, share it with a friend, learn more about ASEF on our website and consider donating to support the ASEF's mission and programs!

Transcript

Copy Transcript Copied

Frenk: 0:00

Lepo pozdravljeni in dobrodošli nazaj v posebno epizodo ASEF podcasta, v sodelovanju s SLOAI. Moje ime je Frenk Dragar, in danes sem se z dr. Ivanom Bratkom pogovarjal o začetkih umetne inteligence v Sloveniji, preko poti od podstrešnega prostora na Inštitutu Jožef Stefan v 70-ih, kjer so se trije nadobudni študentje elektrotehnike začeli ukvarjati s tem novim področjem, preko šaha, medicinskih podatkov, mednarodnih konferenc in sodelovanja z raznoraznimi institucijami, pa vse do današnjega dne generativne umetne inteligence ter mnenja dr. Bratka o njej. Vabljeni k ogledu. Najlepša hvala, da ste si vzeli čas; res cenimo. Z ASEF-om, in sicer v bistvu ste zdaj v zadnjih parih letih, ali pa celo mesecih, dobili precej nekih nagrad, časti, med drugim tudi eno zlati red od predsednice Republike Slovenije. Tudi pri ASEF-u ste lani v bistvu dobili nagrado za življenjsko delo, pa še kakšna se lahko najde in našteje, tudi ena super razstava je bila od Računalniškega muzeja in tako naprej, ob 50-letnici umetne inteligence. Tako da, a se je tako, ko se je vse skupaj to začenjalo, a se vam je zdelo, da bo enkrat tak, ali pa se vam je takrat dozdevalo, da začenjate nekaj velikega v Sloveniji, tako kot se zdaj recimo mogoče kdaj pozna?

Bratko: 1:35

Takrat si je bilo to zelo težko predstavljati. Začelo se je tako, da smo trije kolegi, študentje Fakultete za elektrotehniko, skupaj diplomirali, praktično istočasno, in tudi skupaj šli na Inštitut Jožef Stefan vprašat za službo. Tisti pogovor je bil uspešen, trajal je mogoče nekaj minut, vsi smo dobili službo, in naše delovno področje je bilo opredeljeno kot umetna inteligenca. To smo si že nekaj predstavljali, kaj to je, in nam je bilo kul. Ampak podrobnejših navodil pa nismo dobili, in od takrat naprej smo bili bolj ali manj prepuščeni sami sebi.

Frenk: 2:20

Pošteno.

Bratko: 2:21

To sta bila moja dva kolega, od takrat sta bila Vlado Rajkovič in Iztok Lajovic.

Frenk: 2:28

A ste takrat, ker informacije zdaj so povsod v bistvu dostopne, skoraj vsakdo ima dostop do interneta, lahko prebere znanstvenih člankov, par tisoč z enim iskanjem. Takrat pa je verjetno malo drugače izgledalo, ne? Ste imeli kakšno literaturo?

Bratko: 2:46

To je bilo zelo drugače. Ampak ni bilo pa tako omejujoče. Mi smo imeli dostop do knjižnice, inštitutske, pa drugih knjižnic v Ljubljani, do praktično, skoraj bi rekel, vseh pomembnih publikacij v tistem času. Seveda smo jih prebrali bistveno manj, kot bi jih zdaj prebrali; zdaj jih ne moremo vseh prebrati. Takrat je pa to šlo. Ampak bi rekel, bilo je vse po svoje nekako pod kontrolo. Tako, imeli smo občutek, da smo vse prebrali, kar je bilo pomembno.

Frenk: 3:20

Vse, kar je bilo, ja. Kaj pa je bilo takrat v bistvu sploh? Ker področje umetne inteligence, seveda, se je čez čas razvijalo, spreminjalo, in tistega leta, ko ste začeli, to je bilo leto...

Bratko: 3:35

1970.

Frenk: 3:37

1970, okej.

Bratko: 3:38

Ali pa 1971, morda 1971.

Frenk: 3:40

To je že kar... Takrat verjetno ni bilo, mislim, definitivno ni bilo teh velikih jezikovnih modelov in vseh drugih stvari, ki so danes, ne vem, modeli računalniškega vida, tako razviti, ali pa kakšne druge stvari. Kaj je sploh takrat bilo, recimo, to področje, ali pa kaj so bile neke aktualne teme na...

Bratko: 3:56

Ja, področje se je pa medtem izredno spremenilo. Ne tako, da bi stare teme izginile. So še vedno pomembne, ampak so jih zasenčili zdaj veliki jezikovni modeli, nevronske mreže, globoko učenje, globoke nevronske mreže. Poudarki so bili precej drugačni. Mi, ki imamo tisto staro kulturo, se nam zdi to divji zahod, a ne, kar se je zdaj zgodilo. Uporabniki te tehnologije se ne spuščajo več v globino, ampak nekako zaupajo, da rezultati, ki jih dobijo, da so pravilni. Ne moti jih, da jih ne razumemo. Ampak teme, ki so bile takrat pomembne, so bile, na računalniku modelirati človekov način razmišljanja, kako ljudje rešujejo probleme, s kakšnimi heuristikami si ljudje pomagajo, in kako lahko te heuristike prenesemo v računalnik. No, večna tema umetne inteligence je bilo razumevanje naravnega jezika. Seveda zdaj tudi obstaja, in to še v veliko večji meri in veliko bolj uspešno, neskončno uspešno. Takrat ni bilo tako uspešno, ampak tisti principi so omogočali razumevanje, na kakšen način računalnik razume jezik in kako generira jezik, medtem ko tega zdaj ne razumemo. Vidimo, da deluje, deluje čudovito, ampak ne razumemo, kje so meje. In bil bi mega projekt ugotoviti, kako globoka nevronska mreža pride do svojega odgovora. Ampak zdaj izgleda, da se je človeštvo sprijaznilo s tem, da tega ne razumemo, ampak enostavno uporabljamo tako, kot je.

Frenk: 5:41

Ja, na nek način so. Mogoče ravno zaradi te kompleksnosti, zaradi katere se ne da razložiti ali pa tako podrobno razumeti. Mogoče ravno je to v bistvu druga stran istega kovanca, da so pa tudi tako močne za določene stvari, pa po drugi strani kdaj ne prepoznamo, kdaj se pa tako zmoti. Ampak vseeno, tisto, ko smo omenili, s tistim, kar ste se ukvarjali v tistih 70-ih, recimo, takrat ste v bistvu postavljali neke temelje umetne inteligence v Sloveniji, a ne? Bi lahko temu mogoče rekli tudi neka Ljubljanska šola umetne inteligence?

Bratko: 6:21

Ja, ja. Dejansko se je uveljavil ta izraz Ljubljanska šola umetne inteligence, in jaz, ko gledam nazaj, se mi zdi, da popolnoma zasluženo. Ker ukvarjali smo se z mnogimi aktualnimi temami, in v mnogih temah smo naredili pomembne prispevke k znanosti, k umetni inteligenci nasploh, med drugim tudi na področju strojnega učenja. Strojno učenje v tistem času, ko smo mi začenjali, ni bilo posebej popularno. Bili so neki začetki, nekaterim se je zdelo, da je to zanimiva ideja, ampak mi smo bili morda prvi v svetu, ali pa vsaj med prvimi, ki smo uspeli tiste zgodnje metode strojnega učenja spraviti v neke praktične situacije in praktične poskuse, in pokazali, da to odlično deluje na konkretnih problemih. Na primer, na področju medicinske diagnostike. Mi smo bili, jaz mislim, da prvi v svetu, ki smo uporabili strojno učenje na realnih medicinskih podatkih. In tudi prvi smo opazili ta fenomen, da rezultat učenja je potem boljši od delovanja zdravnikov ekspertov.

Frenk: 7:37

Mogoče nas lahko še malo globlje popeljete v ta primer. Se pravi, s kakšnimi algoritmi ste takrat to delali? Kakšni so bili nabori podatkov? Pa tudi računalniki, konec koncev, so bili takrat tudi precej drugačni od teh, ki jih imamo danes, a ne?

Bratko: 7:51

Ja, računalniki so bili neprimerljivo slabši od današnjih. Se pravi, vsak računalnik, ki smo ga tam uporabljali, je bil šibkejši kot pa današnji telefoni. Algoritmi so bili, nekateri, ki so takrat obstajali, ki še danes so zelo uspešni. Jaz sem imel srečo, da sem v tistem zgodnjem obdobju, to je bilo, kaj, nekje leta mogoče 1979, prišel v stik na enem mojem obisku v Edinburghu. Jaz sem precej časa porabil v raziskovalnih obiskih v Edinburghu, pri enem izmed, tako, zelo slavnih pionirjev umetne inteligence Donaldu Michieju. Na enem od teh obiskov sem spoznal enega Avstralca, ki mu je bilo ime Ross Quinlan. Ross je takrat prišel ravno tako na en obisk v Edinburgh in je s sabo prinesel svoj program za strojno učenje, ki se je imenoval ID3. Ne vem, če ste slišali za to ime.

Frenk: 8:55

Priznam, da ne.

Bratko: 8:56

No, bil je desetletja to zelo znan program, in tudi, torej, zagonetno ime ID3. Skoraj noben ni vedel, kaj to pomeni. Mimogrede, pomeni Iterative Dichotomizer Version 3. To smo, recimo, to je Quinlan vedel, pa jaz, pa mogoče še nekaj ljudi. Ampak v glavnem, Quinlan, pač zelo simpatičen znanstvenik iz Sydneyja, je rekel "Jaz sem naredil ta program, ne vem, ne vem sicer, ali je to koristno, mislim, da je, ampak tukaj imaš program, pa se lahko malo z njim igraš, če imaš kakšno idejo, da bi ga testiral, uporabil na kakšni domeni." In jaz sem slučajno imel eno zelo dobro domeno, programiral, ukvarjal sem se takrat s programiranjem šaha, programiral sem eno šahovsko končnico. To je bilo takrat zelo zanimivo področje za umetno inteligenco, kajti šah je bila ena taka tema, ki je mnoge izzivala, pritegnila, imela je vse elemente, ki so pomembni za inteligenco. In pri programiranju tiste končnice, to se s klasičnimi metodami, nekimi, mislim, simboličnimi metodami preiskovanja, iščeš pot v labirintu, se mi je pojavil en programerski problem, ki je bil kar težek. Koristno bi bilo takrat, če bi imeli algoritem, ki bi znal razpoznavati, katere pozicije so dobljene in katere niso dobljene, za eno stran. In takrat sem dobil zelo dobro idejo, ne, da bi mogoče to lahko, to razpoznavanje dobljenih v nedobljene, opravili s strojnim učenjem iz primerov. Primerov sem imel že veliko generiranih. Poskusil sem to narediti s tem programom ID3, program za učenje odločitvenih dreves, in začudo so bili rezultati famozni. Tako da sem videl, če bi jaz začel s tem orodjem, namesto da sem začel programirati to ročno, bi si prihranil mogoče nekaj tednov programiranja. To sem pokazal Quinlanu. Quinlan je bil ravno tako navdušen. Je rekel "Evo, to je pa res zdaj krasen dokaz, da on je bil vesel, da je zdaj to orodje, njegovo, se pokazalo kot tako koristno." On je potem takoj te moje podatke tudi si sposodil in začel prodajati ta svoj program, mislim, prodajati psihološko v tem znanstvenem svetu, kot primer uspešne uporabe strojnega učenja. In je potem po zaslugi te moje aplikacije, ali tega mojega poskusa, ta njegov program zaslovel, tako, po celem svetu. Mimogrede, v zvezi s tem imam še eno zelo zanimivo zgodbo. Ta pionir umetne inteligence, Donald Michie, ki sem ga prej omenil, je bil, mislim, jaz sem se ogromno naučil od njega, ker je imel izredno dober občutek za to, kaj je pomembno v raziskavah, pa kaj ni pomembno. Popolnoma sem verjel in razumel, da tisto, kar Michie zdaj predlaga, v katero smer nas nekako usmerja, da je to pravilna smer. In jaz sem mu v tistem navdušenju nad programom ID3 rekel "No, Donald, zdaj pa tako. Tukaj imamo en krasen rezultat s strojnim učenjem, tehnologijo, s katero se nismo do zdaj ukvarjali, ampak po mojem bi bilo koristno, da bi se cel naš laboratorij s tem začel veliko bolj intenzivno ukvarjati."

Frenk: 12:32

To je bil v Ljubljani, ta laboratorij, takrat?

Bratko: 12:34

Ja, za moj laboratorij v Ljubljani sem že tako ali tako imel v mislih, da se bomo začeli s tem ukvarjati. Ne, jaz sem predlagal, da bi se tudi v Edinburghu, ta njegova skupina v Edinburghu, temu intenzivno posvetila. In takrat me je prvič v življenju Donald negativno presenetil, ko je rekel "Mhm, mi smo vrhunski laboratorij, ki rešuje resne znanstvene probleme, ne pa znanstveno fantastiko." Se pravi, da ni, ni prav dobro verjel, da to, kar mu jaz pripovedujem, da ni bila znanstvena fantastika, ampak da je bilo to, da se je to resnično zgodilo. In potem, jaz sem bil kar malo poparjen, sem rekel "Okej, no, bomo pač v Ljubljani naprej to delali sami."

Frenk: 13:27

Znanstveno fantastiko.

Bratko: 13:28

To, kar je on imenoval znanstveno fantastiko, tako, navadno ni bil tako zajedljiv, ampak takrat je bil malo zajedljiv. In ko sem bil jaz v Ljubljani, sem takoj v Ljubljani imel možnost, to je bila pa spet srečna okoliščina, da sem prišel v stik z enim zdravnikom. Njegova ideja je bila uporabiti statistične metode za poboljšanje diagnostičnih metod. Medicinski podatki so bili zbrani. Jaz sem rekel "Kaj če bi zdaj uporabili ID3 na tej vaši domeni?"

Frenk: 14:01

Smem samo vprašati o teh količinah podatkov? Tudi o teh?

Bratko: 14:05

Količine podatkov so bile za današnje čase zanemarljive.

Frenk: 14:10

Ja. Koliko je bilo? To, ne vem, par sto primerov, recimo, ali pa...

Bratko: 14:13

Šlo je za nekaj sto primerov, ja. Ja, ja. Sicer ID3 je zmogel več, ampak konkretno, to je bila diagnostika limfografske preiskave, limfnih rakov, in v tej domeni ni bilo na razpolago več podatkov, kot jih je zbral. To je bilo, pač, nekaj sto. Ampak nekaj sto je bilo dovolj, da smo dosegli diagnostično točnost. Zdravnik sam je ugotovil, da tudi za njega je bilo to presenečenje, ker je ocenil, da je to na nivoju najboljših specialistov onkologov. Mi smo potem takoj pograbili to idejo in smo rekli"Zdaj bomo to preverili." In smo z onkologi naredili poskus, ki je pokazal, da je, da dosegamo res vsaj točnost onkologov, kar je bilo fenomenalno.

Frenk: 15:05

Mogoče še malo o teh podatkih. Se pravi, to so bile takrat, pa še tudi zdaj, veliko algoritmov deluje na značilkah, a ne? Se pravi, na nekih vhodnih podatkih, ki se mogoče malo preoblikujejo. Potem pa, če prav razumem, je ta ID3, tako kot ste rekli prej, pač ta, to odločevalno drevo zgradil in je na podlagi tega odločil. Pa, a veste, samo tako približno, koliko je bilo teh značilk, ali pa tako, kaki podatki so to sploh bili, a ne? Takrat slikovni skoraj zagotovo ne, a ne?

Bratko: 15:34

Bili so atributi. Vsak atribut je pri vsakem pacientu zavzel eno izmed vnaprej izbranih vrednosti. To se pravi, klasični atributni podatki v obliki tabele. Seveda niso bili jezikovni podatki, bili so nenumerični. Večina jih je bila nenumeričnih, ampak ne zdaj jezikovni podatki v tem smislu, da je bil to prosti tekst.

Frenk: 15:55

Ja. Kaj pa za šah, ko ste prej omenili? Tisto ste, ste generirali pač poteze, ali kako ste, kako ste tisti nabor nabrali?

Bratko: 16:05

Pristop pri šahu je bil pa malo bolj zapleten. V tistem času so se pojavili algoritmi, ki so za dovolj majhne končnice šahovske, mislim, da konkretno v našem primeru je šlo za štiri figure, ko so generirali vse možne pozicije, je bilo možno tudi za vsako pozicijo ugotoviti, kaj je najboljša poteza v tisti poziciji. Se pravi, skratka, kompletno podatkovno bazo za to šahovsko končnico, z možnostjo idealne igre. In zanimivo je bilo, da kljub temu, da je šlo tukaj samo za štiri figure, je bila ta končnica, konkretno je bilo, to je bila končnica kralj in trdnjava proti kralju in konju. Kljub temu, da je nekako šahovsko trivialna, se je smatrala, ampak bilo je nekaj presenetljivih rezultatov, presenetljivih pozicij, ki so še celo v klasičnih šahovskih knjigah so bile ocenjene kot neodločene, kot remi, ampak v katerih je potem z neko presenetljivo igro močnejša stran dosegla lahko zmago. To podatkovno bazo smo mi potem opremili z dodatnimi atributi pozicij. Se pravi, ne samo položaji figur, ampak tudi, recimo, kakšne so bile razdalje med obema kraljema, ali je bil skakač napadel, ali je bil daleč od svojega kralja, in tako naprej. In ti dodatni atributi so omogočali, da smo potem lahko nadomestili tisto, to je bila, mislim, da nekaj milijonska podatkovna baza. Tam je bilo pa veliko primerov, ne, ampak da smo jih lahko reducirali in skrčili in vse skupaj rešili z vsega skupaj nekaj atributi.

Frenk: 17:51

Razumljivo.

Bratko: 17:52

Ja.

Frenk: 17:54

Poleg šaha in pa, recimo, teh medicinskih podatkov, ste preko kariere, pa tudi na splošno v laboratoriju, delali še kakšne projekte. Povejte še malo, kakšni projekti so še bili kaj zanimivi? A ste sodelovali že tudi takrat kaj s kakšnimi drugimi inštitucijami, mogoče s kakšnimi javnimi, s kakšnimi privatnimi? Pa tudi vir financiranja takrat, to so bili bolj akademski projekti, če prav razumem, v tistih časih?

Bratko: 18:24

Viri financiranja so bili bolj ali manj akademski. Bili so pa tudi potem nekateri mednarodni projekti. To se je dogajalo v nekdanji Jugoslaviji, v tistem času, in tudi v nekdanji Jugoslaviji je bilo možno izvajati te raziskave, in Slovenija znotraj Jugoslavije je nekako si prizadevala, da so te raziskave šle naprej. Tako da jaz nisem videl nobenega problema v tem, da bi bili mi kakorkoli odrezani ali pa v podrejenem položaju v primerjavi s preostankom sveta, ker teh sredstev sicer ni bilo v nekem izobilju, niti približno tako kot zdaj, ampak bilo je možno delati. Zato moram reči, da sem hvaležen Sloveniji takrat in danes za to, da je omogočila te raziskave in ta napredek. Zelo veliko smo sodelovali z zdravniki. Vi sami veste, da umetna inteligenca nekako sama od sebe ne obstaja dobro, ampak se mora navezati na neko vsebinsko povezavo, na eno ekspertno področje, ki ga lahko potem z umetno inteligenco bistveno boljše obvladujemo. In za nas je bilo pač slučajno, ker smo imeli te stike z zdravniki, je bila to medicina, tako da smo potem še na vrsti drugih področij, recimo lociranje primarnega tumorja. Zdaj, to iste, podobne poskuse naredili in prišli do istega rezultata, da smo dosegli boljše rezultate kot zdravniki specialisti Saj zdravnikom to ni bilo nekako najbolj všeč. Najprej jim je bilo všeč to sodelovanje, potem pa, mi smo malo preveč poudarjali, morda, da zdaj s tem presegamo njihovo znanje, čeprav smo tudi rekli "Ne, vi imate sigurno v splošnem veliko boljše znanje," kar smo iskreno verjeli. Ampak to, kar je pa bilo zajeto v številskih rezultatih, je pa kazalo na to, da dosežemo boljše rezultate kot zdravniki. Čeprav pa, res pa je, da ne bistveno boljše. Recimo, če so zdravniki na enem področju, ki je bilo malo težje, dosegali samo 50-odstotno točnost, smo mi dosegli 51 ali pa 52. Se pravi, je bilo tudi za računalnik to področje težko.

Frenk: 20:45

A je to tudi omejitev, pač podatkov, ker so bili pač naučeni na podatkih, ki so jih ljudje imeli? Ali, no, saj podatki so potem tudi vedno preverjeni, tako da imamo vsaj, pač, točno množico. Ampak ali je bila dejansko ta, samo področje, ali pa samo problem tako težek, da se ni dalo?

Bratko: 21:04

Oboje je bil problem. Prvič, res je, da nismo imeli vseh podatkov. Ali, če bi imeli druge podatke, boljše podatke, bi bil problem lažji. Ampak tudi medicinsko je bil problem težek. Tako da praktično vse domene so bile nerešljive v 100-odstotno. Napake so bile neizbežne v določenem odstotku.

Frenk: 21:26

Zanimivo. Pa zelo mi je zanimivo tudi to, da omenite, da že takrat, se pravi, sklepam v 70-ih in 80-ih, ste pokazali, da je lahko, recimo, stroj ali pa nek model umetne inteligence, ali karkoli podobnega, v nečem boljši od človeka. Po drugi strani pa še zmeraj imamo danes zdravnike, a ne? Pa tudi v kakšnih drugih poklicih se je že kdaj govorilo, da se bo zamenjalo, se bo tako, ampak na koncu vidimo, da ljudje pa še precej vztrajamo, a ne, in da vedno se še nekako to področje, čeprav že kaže, da nekatere stvari gredo, vedno se še da nekaj najti, v čem se da človek tudi dokazati.

Bratko: 22:07

Ja. Čeprav, zdaj se pa jaz tudi sprašujem, kako dolgo bo svet še vedno vztrajal pri tem, da zdravniki so nepogrešljivi. Najbrž nekdo mora prevzeti odgovornost. Se pravi, tukaj bo vsaj odgovornost bo moral zdravnik prevzeti. Ampak vedno več si bodo pa zdravniki tudi sami pomagali z umetno inteligenco. In se mi zdi, da človeštvo je zdaj kar sprejelo to filozofijo, da umetna inteligenca tako ali tako vse naredi boljše kot ljudje. Tako da bodo najbrž tudi v medicini bolj ali manj potrjevali odločitve, ki jih bo dala umetna inteligenca. Mimogrede, jaz sem se spomnil, da tiste zgodbe o Donaldu Michieju, pa tem njegovem prvem, prvi reakciji na strojno učenje, nisem končal. Jaz sem zelo kmalu v Ljubljani naredil te dodatne eksperimente, in nekaj mesecev za tem sem bil spet v Edinburghu, in sem Michieju seveda spet pokazal poskuse v medicinskih domenah. To je bila domena, ki jo je Michie zelo dobro razumel, ker je bil v svojem nekako prvem življenju biolog, oziroma na področju medicine delal. Čim je videl pa te rezultate v medicini, pa primerjavo s točnostjo ekspertov, je pa v hipu spremenil svoje mnenje, in od takrat naprej je postalo strojno učenje glavna tema tudi njegovega laboratorija. In v vsem svojem nadaljnjem, večdesetletnem sodelovanju sva midva sodelovala na področju strojnega učenja. Tako da sem mimogrede še enega spreobrnil.

Frenk: 23:44

Super. Ja. Še dobro, da ste povedali, ja, da se, da se zgodba ni tam zaključila, ja.

Bratko: 23:48

Ni se končala, ja.

Frenk: 23:49

Kako lepo.

Bratko: 23:50

Tako da, to moje mnenje, da je imel tak fantastičen občutek za to, kaj so pravilne smeri raziskav, se je tudi tukaj potem nekako potrdilo, a ne, kljub enemu, enemu stranskemu skoku vmes.

Frenk: 24:06

Ja. Se pravi, ja, dosti, dosti omenjate, da ste sodelovali z Edinburghom, pa tudi s kakšnimi raziskovalci drugje iz tujine. In v bistvu pač, ja, danes imamo internet, lahko imamo preko spleta mnoge stvari. Še zmeraj so seveda zelo pomembne in aktivne znanstvene konference, journali, oziroma pač revije in tako naprej. Kakšne so bile pa recimo takrat, kakšne te mednarodne konference, ali pa iz kje ste črpali literaturo in pa v bistvu dohajali s tem napredkom tudi v svetu, kot, kot v regiji?

Bratko: 24:42

Konference, seveda, so bile ravno tako izredno pomembne. In prva konferenca, ki smo jo se udeležili mi, temi trije kolegi iz, ki smo mimogrede tudi na Inštitutu Jožef Stefan, se tako rekoč v eni minuti zaposlili, a ne, vsi trije. Potem se je pokazalo, da inštitut nima veliko prostora in nam je dodelil eno sobo, pisarno, vsem trem skupaj v eni, na enem neobdelanem podstrešju. Tista soba je bila, že celo dostop do tiste sobe je bil neurejen, tako da ponoči je bilo kar nevarno se tam premikati. Soba ni imela oken, ni imela dobre izolacije. Pozimi je bilo, nas je zeblo, poleti nam je bilo neznosno vroče. Ampak kakorkoli, to delo nas je tako zanimalo, da zdaj, če te nekaj zanima, pa pritegne, potem si pripravljen ignorirati vse drugo.

Frenk: 25:48

Mhm. In to so bili začetki laboratorija?

Bratko: 25:52

Ja, to je, to je potem bila neka neformalna skupina za umetno inteligenco, ki je kasneje postala, precej kasneje je postala laboratorij, pa potem iz tega nastal tudi odsek. Ampak odsek je pa že zelo velika tvorba na inštitutu. Tisto prvo leto, ko smo delali na tem podstrešju, a ne, smo imeli spet veliko srečo, da je naš tedanji šef, profesor Železnikar, je pripeljal v Ljubljano en ogromen kongres organizacije IFIP, organizacije za informatiko. In na tem kongresu, to je, ne vem, kako to, mislim, da nikdar potem, niti prej niti kasneje ni bilo takega, take ogromne konference iz računalništva, kot je bil ta dogodek IFIP. Mi smo se prijavili za sodelovanje na IFIP-u kot prostovoljci, prostovoljni pomočniki, a ne, da smo pomagali organizatorju na licu mesta. Kar je bilo pa tudi zelo zanimivo, ker smo imeli tesen stik potem z mnogimi temi slavnimi predavatelji, udeleženci. Jaz se spomnim slavnih imen, Donald Knuth, ne vem, če ste slišali za to ime.

Frenk: 27:12

Sem ga slišal, ampak moram priznati, da...

Bratko: 27:13

Okej, on, on je takrat pisal eno svojo legendarno serijo knjig iz računalništva. Takrat je razlagal, da, da bo napisal sedem knjig. Prišel je do, meni se zdi, prve knjige. Končal je s tretjo knjigo, mislim, da celih vseh sedem ni nikdar napisal. Ampak v glavnem, no, z njim smo se zelo veliko pogovarjali. On je bil navdušen tudi nad Slovenijo, pa tako, všeč mu je bilo to naše zanimanje. Meni je potem poslal takoj en izvod svoje knjige. To je bila ena oseba, jaz se spomnim potem tudi Roberta Floyda, eno zelo pomembno ime iz tistega časa. In Donalda Michieja sem spoznal tudi na tem IFIP kongresu v Ljubljani prvič. To je bilo, torej, leta 1991. Do Michieja sem pa potem prišel v, bolj konkretno, sodelovanje z njim pa na konferenci IJCAI, ki je bila leta, mislim, da 1995, oziroma ne, pardon, 1975.

Frenk: 28:17

1971 je bilo prej.

Bratko: 28:18

V Tbilisiju, v Gruziji. Pač slučajno je bila. V Gruziji se seli, zmeraj se IJCAI seli po celem svetu. In na enem, na enem zajtrku med to konferenco sem se dobil z Michiejem. On mi je omenil, da ga zelo zanima programiranje šaha kot problema, ki je bil kot nalašč narejen za umetno inteligenco. Jaz sem mu rekel "Ja, mene tudi zanima programiranje šaha, poleg tega sem pa tudi šahist."In nekaj let pred tem sem bil tudi v jugoslovanski študentski olimpijski reprezentanci, na šahovski olimpijadi, in takrat smo tudi osvojili drugo mesto. Tako da, ko je Michie to slišal, je rekel "To je pa fantastično, nujno je, da pridete za nekaj časa v Edinburgh,"kar se je potem tudi naslednje leto zgodilo že.

Frenk: 29:26

Pa da se vrnemo potem malo nazaj v Ljubljano. Drugače, čestitke za drugo mesto.

Bratko: 29:31

Hvala.

Frenk: 29:32

Malo po času. V Ljubljani pa, tako kot ste rekli, ste začeli na tem podstrešju brez oken. Pozimi je mrzlo, poleti vroče. Ampak ni vedno tako ostalo, a ne? In tudi tisti trije študentje, ki ste bili, ker takrat se v bistvu v Ljubljani še sploh ni dalo študirati računalništva, je bila samo elektrotehnika, če prav razumem. Ampak to se je potem z leti razvijalo, a ne? A mi, a me peljete malo čez, čez to zgodbo? Kako se je v bistvu ta laboratorij potem razvil, kdo so bili še kakšni sodelavci, in pa tudi potem, kako se je v bistvu začela ta računalniška fakulteta ali pa kakšni tudi laboratoriji na tej instituciji, recimo?

Bratko: 30:16

Ja, zgodilo se je ogromno stvari. Mimogrede, ena pomembna stvar se je takrat dogajala še v tisti podstrešni sobi med nami tremi. Takrat je imel direktor zavoda za šolstvo eno zelo genialno idejo za tiste čase. Prišel je z ene konference iz tujine in je rekel, da je slišal za računalništvo in da se mu zdi to zanimivo področje in da bi bilo mogoče dobro, da bi v Sloveniji uvedli pouk računalništva v srednjih šolah. Vprašal je tudi, a bi kdo lahko zdaj ta pouk izvajal, a imamo učitelje. Vsi so mu rekli"Ja, učiteljev nimamo. Tukaj mogoče bi lahko nabrali kakšnih 10 ali pa 20 ljudi, ki bi bili sposobni to učiti." In on je rekel,"No, pa dajmo začeti v omejenem obsegu s tem, kar imamo." Najdel je tudi nas tri kot potencialne učitelje. Mi smo rekli "O, to bi nas pa zanimalo." In smo se potem tudi ukvarjali s tem, na kakšen način računalništvo približati nivoju srednje šole. In to poučevanje nam je tako, začel se je eksperimentalni pouk kot izbirni pouk računalništva. Nam je bilo ogromno veselje. Direktor zavoda za šolstvo je ustanovil tudi eno komisijo, ki se je s tem ukvarjala. Vsako leto je bil ta pouk večji. Medtem smo usposobili dodatne učitelje. Vsako leto je bilo, je bil, ne vem, za dvakrat več razredov v Sloveniji. In mimogrede, smo potem opazili v neki analizi Evropske unije, uradni dokument, v katerem je bilo, torej bila analiza izobraževanja iz računalništva v Evropi. In v tisti analizi je bilo jasno napisano, da je Slovenija takrat prehitela Nemčijo za pet let v tem pouku. Se pravi, pet let pred Nemčijo smo mi v Sloveniji imeli ta pouk računalništva. S kolegom Rajkovičem sva takrat rekla,"Okej, če zdaj obstaja ta pouk, potem bi bilo fajn imeti učbenik." In midva sva rekla "Okej, bova midva še napisala učbenik." In sva napisala prvi slovenski učbenik za računalništvo v srednjih šolah. To nam je bilo spet eno dodatno veselje, ampak...

Frenk: 32:32

In to je bilo še vse v 70-ih, če prav razumem.

Bratko: 32:35

Ja. Midva sva to delala od leta, mislim, da 1971 do mogoče 1975 ali pa 1978. To je bilo vse, ja, v 70-ih letih.

Frenk: 32:45

To je kar impresivno že takrat.

Bratko: 32:46

Impresivno.

Frenk: 32:47

Pet let pred Nemčijo.

Bratko: 32:47

In potem sva opazila, med najinimi bivšimi dijaki, tudi mnoga imena, ki so prišli do univerze in postali profesorji na raznih fakultetah po Sloveniji. No, se nama je zelo dobro zdelo.

Frenk: 33:08

Kaj pa je bila takrat vsebina, recimo, tega računalništva v srednji šoli, a ne? Ker to je leta 1975, to so bili še takrat sploh še grafični vmesniki niso zares obstajali, a ne? To je takrat, a ste jih programirati učili ali kako je to?

Bratko: 33:22

Ja, mi smo jih morali naučiti osnove predstavitve podatkov v računalniku, potem osnove algoritmov. Nam je bilo veliko do tega, da ti dijaki opravijo nekaj praktično zanimivega. Cilj je bil, da vsak od njih napiše vsaj en program in ga spravi skozi računalnik v tistem času. Imeli smo vsega skupaj na razpolago en računalnik na eni fakulteti, pa kasneje se je potem pojavil še en računalnik v najini bližnji fakulteti. Ampak v glavnem, tukaj ni bilo ogromno možnosti. Ampak vsi dijaki so spravili skozi računalnik en svoj program, s svojim lastnim algoritmom, s svojim lastnim problemom. Pred kratkim sem pogledal ta učbenik računalništva in tam je pa tudi omenjena že umetna inteligenca in tudi vprašanja, ali lahko umetna inteligenca preseže človeško inteligenco, ali je to popolnoma varno ali ni varno. Skratka, nekaj vidikov umetne inteligence, ki se zdaj pojavljajo v diskusijah o etični in varni uporabi umetne inteligence.

Frenk: 34:25

Že takrat?

Bratko: 34:26

Dobro, že, že takrat sva midva to vprašanje odprla v tej knjigi.

Frenk: 34:31

Mhm. Ni pa ta knjiga računalništvo srednje šole edina, ki ste jo napisali. Ena izmed njih je bila tudi precej vplivna knjiga o Prologu, če se ne motim, ne?

Bratko: 34:42

Ja, to je bila pa res uspešnica. Prej sem omenil Donalda Michieja in ena izmed njegovih dobrih potez ali pa namigov je prišla enkrat v Edinburghu, kjer je obstajala skupina, ki je razvijala programski jezik Prolog, oziroma pristop k programiranju na nepostopkovni način. To je bilo deklarativno programiranje, se je imenovalo. Ideja je, da programer se ne ukvarja s podrobnostmi samega algoritma, ampak opiše problem deklarativno in opiše, kaj je cilj programa, potem pa sam interpreter poišče pot do rešitve tega problema. To se je fantastično dalo delati v Prologu. No, Michie je rekel"Mogoče bi zdaj ti pogledal enkrat Prolog, pa mogoče te bo zanimalo." In to me je res zanimalo, ne. Saj, na začetku je to velik skok iz običajnega algoritmičnega programiranja do tega deklarativnega, ampak potem kar naenkrat vidiš, koliko prednosti ima to.

Frenk: 35:49

Mhm. A nam date mogoče tudi za poslušalce en tak, mogoče kratek primer, kakšna je razlika med deklarativnim in pa klasičnim, mogoče programom?

Bratko: 35:59

No, recimo en primer, ki izgleda kot čarovnija v Prologu, je, da na primer, da je tvoj problem sprogramirati stikanje dveh seznamov. Da sta, imaš dana dva seznama in potem narediš program, ki združi ta seznama v seznam, v katerih so vsi elementi teh dveh seznamov. To je stikanje, oziroma concatenation po angleško. V običajnih jezikih to narediš z algoritmom, ampak ta algoritem dela točno to, za kar je bil napisan. To se pravi, da zna združiti dva dana seznama v tretji seznam. V nepostopkovnem jeziku se pa stvari kar naenkrat obrnejo, ker mi to definiramo zdaj ne kot funkcijo iz dveh seznamov v tretjega, ampak kot relacijo med tremi seznami. Tako da ta relacija je izpolnjena, če sta dva seznama v relaciji stik, in stik je ravno ta tretji seznam. Kar naenkrat ta program v Prologu za stikanje seznamov lahko obrnemo v obratni smeri. Se pravi, da podamo samo tretji seznam, kaj je rezultat stikanja seznamov, potem pa on sam generira pare seznamov, katerih stik je ta, ta podani tretji seznam. In kar naenkrat se potem pokaže ogromno možnih uporab. Program je potem tudi nedeterminističen, ker lahko generira veliko možnih rešitev za ta isti problem. Skratka, en popolnoma nov pogled na programiranje. No, jaz sem se potem nad tem navdušil in sem tudi na nekaterih konferencah imel predavanja o vragolijah programiranja na deklarativni način. In enkrat, ko pridem iz ene konference domov, dobim pismo od urednika založbe Addison-Wesley, ki je rekel "Ja, jaz sem bil pa na konferenci, kjer ste imeli vi predavanje o Prologu, in tisti primeri so se meni zdeli zelo zanimivi. Kaj če bi vi mogoče napisali knjigo za našo založbo o programiranju v Prologu?"In potem sem se nekaj let ukvarjal s to knjigo, ne, zbral vse te primere. Takrat je potekala še tudi ena vsakoletna šola v Dubrovniku iz umetne inteligence. Na tisti šoli smo zmeraj dobili zelo slavne predavatelje, predvsem iz Inštituta MIT. Tam je bil en laboratorij, zelo slaven AI lab. Med temi gostujočimi predavatelji v Dubrovniku je bil tudi Patrick Winston. Winston je bil slaven po tem, da je napisal eno izmed prvih zelo popularnih knjig iz umetne inteligence. No, jaz sem tudi začel predavati na tej letni šoli v Dubrovniku in za Winstona je bilo tudi presenečenje, kako je to, ta, ta pristop k programiranju zanimiv in, in koristen. Tako da se je veliko z mano pogovarjal. Naslednje leto mi je pa pisal, da zdaj bi pa na svoji vsakoletni poti v Dubrovnik na to konferenco se najprej ustavil v Ljubljani. On je izvedel v Ameriki, da nekdo v Evropi piše knjigo o programiranju v Prologu s poudarkom na umetni inteligenci In je uganil, da sem to jaz, in ga je zato pot zanesla v Ljubljano. V Ljubljani smo, dobro, imeli smo nekaj zelo zanimivih dni, ampak na enem kosilu ga je zanimalo, kaj bo zdaj v, v tej knjigi. Jaz sem mu pokazal nekaj primerov, on je imel nekaj zelo brihtnih vprašanj, in jaz sem imel zelo dobre odgovore na vsa njegova vprašanja. In sredi kosila je rekel"Tole vidim, da je pa zelo, zelo zanimiva knjiga." In če hočem, bi bil on pripravljen napisati predgovor k tej knjigi. Kaj to pomeni? On je bil že znano ime iz umetne inteligence, tako da mi je rekel "Na ta način bi zdaj tvoja knjiga postala lahko bolj vidna."

Frenk: 39:54

Mhm.

Bratko: 39:55

Sem rekel "O, super, krasno, hvala za predlog. Mi je zelo všeč, seveda sprejmem." Potem sem mojemu uredniku v založbi povedal, da lahko dobimo predgovor od Patricka Winstona. Urednik je bil presrečen, da se je to zgodilo. V zvezi s tem je potem nastal še en zelo zabaven zaplet. No, zabaven, po eni strani zabaven, po drugi strani ne. Moj urednik je bil tako navdušen nad tem sodelovanjem Winstona, da je na naslovnici natiskal"Forward by Patrick Winston". Tako da se takoj od zunaj vidi priporočilo Patricka Winstona. Ampak ko je Winston dobil svoj izvod knjige, je pobesnel in je rekel "Aha, takole se pa nismo zmenili."In potem je morala založba odpoklicati vse knjige iz prvega natisa knjige in uničiti tiste knjige in natiskati potem naslovnico brez tega dodatnega Winstonovega imena na naslovnici.

Frenk: 41:01

To pa kar zalogaj.

Bratko: 41:02

No, jaz sem ravno takrat prišel na, na obisk v založbo, to je bilo nekje v Angliji, in so mi rekli,"No, takole je, mi imamo tukaj zdaj veliko papirja, odvečnega. To so vse tvoje knjige, ne, ki zdaj čakajo na uničenje."

Frenk: 41:20

A še imate kakšno doma?

Bratko: 41:21

Ja. Jaz sem rekel "Ali pa lahko dobim vsaj zdaj vse tole gre v uničenje? Mogoče bi jaz še kaj izvodov dobil, ne, za mogoče za kakšnega študenta kdaj." Sem rekel "Ja, seveda, tukajle imaš še ene 50 izvodov."In ja, imam še vedno nekaj prepovedanih izvodov.

Frenk: 41:42

To je bilo vse še, sklepam, da so bile to že 80-a, ali je bilo to še 70?

Bratko: 41:48

To je bilo v 80-ih letih, ja.

Frenk: 41:50

In računalništvo, seveda, kot recimo umetna inteligenca, da je del tudi tega vala računalništva, se je tudi to razvijalo. Seveda je bilo potem na tem področju, od teh, recimo, treh študentov na podstrešju, ste se potem malo še razširili. Ustanavljali so se tudi še, še kaki drugi laboratoriji. A bi tukaj mogoče izpostavili tudi kakšne pomembne premike na tem področju, se pravi širitve in razvoja umetne inteligence v Sloveniji kasneje?

Bratko: 42:22

Ja, vsekakor. Jaz štejem, da sem imel res veliko srečo in sem hvaležen mnogim zelo brihtnim študentom, ki so takrat z mano delali. Mnogi od njih so pri meni opravljali doktorate. Prvi doktorski študent je bil Matjaž Gams, ki je postal precej znan. Potem naslednji, ki bi ga omenil, je bil Igor Kononenko, ki je postal profesor, kasneje profesor na Fakulteti za računalništvo. Igor je tudi ogromno prispeval k izboljšavam Quinlanovega programa, se pravi tega programa za učenje odločitvenih dreves. To je bil enostaven program, a ne, nekaj strani kode. Mi smo ta program zelo natančno pregledali in uvedli ogromno izboljšav, ki so bile potem popolnoma sprejete v svetovni skupnosti za strojno učenje in so vgrajene kot standardni algoritmi. Tako da to so bili odlični prispevki. Mnogi od njih so bili plod dela Igorja Kononenka in Bojana Cestnika, ki se je tudi pridružil tej skupini, ki se je ukvarjala z izboljšavami ID3. In obadva sta tudi naredila pri meni doktorat. Igor je potem najprej bil v mojem laboratoriju na Fakulteti za računalništvo, potem je pa ustanovil svoj laboratorij, ki se je imenoval Laboratorij za kognitivno modeliranje, in je zbral eno zelo lepo skupino, ki je naprej razvila svoje metode, tudi zelo vidne. Medtem ko na, na Inštitutu Jožef Stefan se je pa pojavila ena, ena druga smer razvoja, pri kateri sta pa sodelovala Igor Mozetič in Nada Lavrač. In sicer tam nekje spet na eni konferenci, mislim, da ravno na konferenci v Dubrovniku, na, na tej letni šoli, smo prišli na idejo, da bi uporabili kvalitativni pristop k modeliranju za reševanje enega medicinskega problema. Spet smo sodelovali z zdravniki kardiologi in smo videli, da bi tist, tista domena avtomatskega razpoznavanja EKG- jev je bila idealno primerna za ta kvalitativni način modeliranja srca. No, in na povratku iz te konference v Dubrovniku smo se peljali najprej na Hvar. Ta vožnja od Dubrovnika do Hvara je nekaj ur trajala in smo rekli "Teh nekaj ur bomo pa porabili za to, da bomo prediskutirali, kakšne so perspektive, da bi dejansko uresničili to idejo." In Igor je bil zelo skeptičen, je stalno oponiral, jaz sem stalno dajal neke pozitivne primere. In v teh nekaj urah sem Igorja prepričal, da je rekel "Ja, zdaj pa vidim, da tole res deluje."In potem smo se zmenili, da bo on to implementiral čim prej v Prologu. In čez en teden, ko smo bili že v Ljubljani, pride z enim zelo širokim nasmehom na obrazu, je rekel "Model je sprogramiran v Prologu in vse deluje točno tako, kot smo mi predvideli."To je bil pa tudi en fantastičen rezultat. Mimogrede, jaz sem takoj Michieju pokazal in on je ta rezultat potem vgradil v eno večjo sliko, v filozofske premike v znanosti, v filozofije znanosti. Šel je nekaj 100 let nazaj, povezal to z idejami Francisa Bacona in je rekel "To pa zdaj vidimo, ne, da to, kar je Bacon nekako abstraktno razmišljal, potem se je pa tukaj res zgodilo." In je tako rekel,"To pa nujno morate objaviti v vaši naslednji knjigi." In knjiga je res izšla pri založbi MIT Press, takrat mogoče najbolj prestižna založba, takoj je pograbila to, to idejo in tista knjiga je postala mogoče ne, ne, ne, ne tako splošno uporabljena kot moja knjiga o Prologu, ampak, ampak so jo mnogi takrat citirali.

Frenk: 46:39

A veste približno naslov te knjige ali pa samo tako?

Bratko: 46:42

Ja, seveda se še spomnim." A Qualitative Model for an Expert System for Cardiac Arrhythmias." Nekaj, nekaj takega.

Frenk: 46:51

Okej, super. To, to je tudi, kot ste prej omenili, a ne, ti, ti pristopi, recimo umetne inteligence, s katerimi ste se ukvarjali takrat, pa ki so danes precej različni, a ne. Takrat bi temu, oziroma še zdaj temu rečemo seveda pač ekspertni sistemi. Danes so pa to recimo generativni modeli. Se pravi, to ni mogoče, temeljijo na podobnih principih, ampak so pa bistveno, bistveno drugačni, a ne. Mogoče vas—

Bratko: 47:18

Mimogrede—

Frenk: 47:18

Povejte.

Bratko: 47:19

Zdaj, ko ste omenili ta projekt KARDIO in, in to knjigo, pojavil se je potem, potem nekaj kasneje še en angleški filozof, ki je bil eden izmed redkih filozofov, ki so se ukvarjali z filozofskimi problemi umetne inteligence, ampak so obenem tudi šli in preštudirali tehnične osnove umetne inteligence. To je, to se pa zgodilo leta 1992 na konferenci pete generacije računalnikov v Tokiu. Na tisti konferenci sem imel jaz eno zelo veliko vabljeno predavanje, mogoče največje v mojem življenju, kjer so me povabili zato, da bi povedal, kako lahko uporabljamo strojno učenje za generiranje novega znanja, na primer v medicini ali pa ekoloških modelih ali pa v robotiki. No, po tem predavanju me je nagovoril en, takrat še zame neznana oseba, in je rekel "Moje ime je Donald Gillies. Jaz sem filozof, delam na Imperial College v Londonu in se ukvarjam s filozofijo znanosti. Zdaj že nekaj let sledim vašemu delu. Očitno ste vi s tem pomagali rešiti eno dolgo desetletno filozofsko dilemo, ki se kaže na relaciji med idejami Karla Popperja, to je bil en sodobni filozof, in Francisa Bacona, ki je živel 400 let pred, pred Popperjem. Vi ste zdaj z vašim projektom KARDIO, pa tudi s tistimi projekti v strojnem učenju in avtomatskem učenju medicinskega znanja iz primerov, ste pokazali, da je imel Bacon prav in Popper ni imel prav. Se pravi, Popper je bil pa sodobnik od Donalda Gilliesa. No, v glavnem, Gillies je potem rekel "Jaz sem prišel do tega, da je, da je to treba zdaj opisati. Pišem knjigo o tem. Rad bi videl, a sem jaz to vse prav razumel ali ne. Če imate kakšno uro časa." In sva potem šla skozi vse njegove zapiske in torej mene je impresioniralo, kako je fantastično on uspel razumeti vse te tehnične detajle in v glavnem, imel je vse prav. Čez ene dve leti sem dobil od njegove založbe to njegovo knjigo, kjer je res tako, tako lepo je pisal o naših raziskavah, tako kot še redko kdo.

Frenk: 49:57

Lepo.

Bratko: 49:58

Tako, ja.

Frenk: 49:59

Sedaj se v bistvu, ja, kot ste omenili, to je bilo zdaj že v 90-ih, se premikamo malo naprej v času v, v tem pogovoru. V bistvu v tej vaši karieri se je zgodilo precej stvari in v svetu in v področju. Bili so tudi pač malo bolj popularni časi, recimo za računalništvo in pa umetno inteligenco nasploh. Bile so pa tudi te tako imenovane zime umetne inteligence, kjer je pa to postalo malo manj popularno. En dogodek, ki je bil tudi, recimo tako, tudi v splošni javnosti malo bolj znan, je recimo ta iz leta 1997, Kasparov proti Deep Blue. In zanima me, a je bil to recimo en tak večji dogodek ali v stroki ali pa pač definitivno v svetu? A ste vi to takrat, pa tudi glede na to, da ste šahist, kako se je vam to takrat zdelo, pa če je še bil mogoče kak drug dogodek, ki je bil tako ali pa še celo bolj vpliven na vaše delo?

Bratko: 50:59

Ta dogodek je bil zelo vpliven, in sicer za nekako percepcijo umetne inteligence v splošni javnosti. Ker vsak razume, da je šah vrhunska igra, zahteva intelektualne sposobnosti in, in mnogi so verjeli, da računalniki nikoli ne bodo znali šaha tako dobro igrati kot ljudje. In celo, prej ste omenili zime umetne inteligence. Zime umetne inteligence, bilo jih je nekaj, so nastale v glavnem zato, ker so se najbolj znani protagonisti umetne inteligence jih je zaneslo njihovo navdušenje nad tem, kar delajo, in so bili pripravljeni dajati tudi zelo zveneče obljube, ki pa niso bile čisto realne. In med temi obljubami je bila ena, da bodo, to je že leta okoli leta 1960, da bodo računalniki v nekaj, mogoče petih ali desetih letih, sposobni prevajati med človeškimi jeziki, recimo iz ruščine v angleščino. In druga taka, primer take obljube je, da bodo računalniki v petih do desetih letih znali igrati šah tako dobro kot človeški velemojstri. Nobena od teh obljub se ni niti približno uresničila v tistih petih do desetih letih. Rezultati so bili, posebej na področju strojnega prevajanja, so bili prav smešno, smešno slabi, tako katastrofalno slabi. Tisto je bil eden izmed razlogov, zakaj je potem splošna javnost, pa novinarji, pa splošni mediji začeli govoriti "Ja, ti ljudje, to je področje, ki veliko obljublja, umetna inteligenca, ampak nimajo pa nobenih rezultatov." In ta strojno prevajanje je bil njihov glavni dokaz za to. Drugi dokaz je bil pa igranje šaha. No, ampak zdaj, igranje šaha se je potem ne čez pet ali pa deset let uresničilo, ampak čez, koliko je to, približno 25 let, potem ko je padla ta obljuba in to se je zgodilo s tem dvobojem med svetovnim prvakom, človeškim prvakom in med računalnikom Deep Blue. Zato je bil ta, ta dogodek tako pomemben. Jaz sem videl, da se pravzaprav računalniški programi malo nekaj let pred tem so se izredno popravili in za mene ni bilo to veliko presenečenje, ampak za splošno javnost pa je bilo to veliko presenečenje, ogromen dogodek. To je bil, to je bila novica dneva po celem svetu. Tudi Garry Kasparov, to je bil poraženi človeški prvak, je bil to svetovni prvak, ki so, za katerega so mnogi mislili, da je to sploh najboljši šahist vseh časov. Se pravi, ni bil samo eden izmed svetovnih prvakov, ampak po mnenju mnogih najboljši. In Kasparov je bil tako potolčen po tem, da ni mogel verjeti, da se je to zgodilo, in si je razlagal, češ, da so, da je ekipa Deep Blue je goljufala, ali da ni, ne, skratka, da je nekaj bilo narobe, ampak ni bilo nič narobe. V glavnem, računalnik je zasluženo zmagal in, in tudi potem nikoli ni računalnik več izgubil proti, proti kateremu koli človeku. Skratka, to je bilo potem konec te dileme med človekom in računalnikom. No, to je bil en dogodek. Drugi dogodek se je pa zgodil med letom 2010 pa 2020, ko so pa programi za strojno prevajanje začeli bistveno napredovati. Potem pa sploh z pojavom generativne umetne inteligence se je pa tudi tista obljuba popolnoma izpolnila in to spet več kot izpolnila. Samo zdaj spet ni nobene, nobene dileme, da so računalniki zmožni generirati besedilo, ki je, ki torej presega verjetno 90 % zmožnosti človeškega govorca.

Frenk: 55:00

Hm. To nas v bistvu zdaj pripelje, ja, do, do tega modernega časa, ne, v katerem se zdaj z napredkom in pač hardvera oziroma strojne opreme se je pospešilo. Tudi podatkov se je vedno več zbiralo, a ne, in so tako imenovani modeli globokega učenja so se zdaj pojavili in pa zdaj na podlagi tega tudi ta generativna umetna inteligenca. Zdaj, pred tem pogovorom sva sicer že, smo že bili v stiku in ste omenili, da vam pa mogoče ti današnji časi vzbujajo neka drugačna vprašanja kot pa recimo v tistih začetnih dneh. Pa tudi mogoče kakšne ne toliko prijetne misli. A nam lahko mogoče malo poveste, kako mnenje imate zdaj o teh dogajanjih v svetu danes, pa tudi mogoče, zakaj tako mislite?

Bratko: 56:06

Ja, to je res, da dolgo časa smo bili izredno zadovoljni s tem svojim področjem, ker je bilo zmeraj zanimivo, tako zmeraj a lot of fun, ampak nikoli ni bilo vprašljivo, vprašljiva uporaba te tehnologije v tem smislu, da bi ta uporaba lahko imela tudi kakšne negativne posledice. Ja, jaz se zelo dobro spomnim ene večerje, ki smo jo imeli v Londonu leta 2013. Eden izmed udeležencev te večerje je bil tudi Stuart Russell. Stuart Russell je avtor najbolj popularne knjige, učbenika za umetno inteligenco.

Frenk: 56:47

To sem pa še jaz bral, ja.

Bratko: 56:49

Aha, no, lepo. To knjigo mnogi poznajo in Stuart Russell torej ni nekdo, ki bi ga lahko odpravili kar tako, ampak Russell je rekel, pravzaprav nekaj od nas na tisti večerji je reklo,"Ja, kaj pa vi mislite glede sedanjega razvoja te naše tehnologije?"In smo vsi istočasno smo rekli,"Ja, to pa zdaj ni več tehnologija, ki bi, ki nima tudi mogoče negativnih vprašanj, ali pa ta tehnologija pa zdaj zasluži, da se začnemo ukvarjati tudi z varnostjo tehnologije in kam nas ta tehnologija vodi." Konkretno mene je takrat najbolj skrbel vpliv na demokratične procese, kajti zelo, zelo jasno se je videlo, da ta tehnologija z zbiranjem osebnih podatkov, brezobzirnim zbiranjem, kar je tehnologija za manipulacijo glasov na volitvah, in to se je tudi potem kmalu pokazalo. Stuarta Russella so, so bolj skrbela avtonomna orožja, uporablja umetne inteligence v avtonomnih orožjih in tudi seveda to, to se zdaj na veliko uporablja. Ampak leta 2015 sta se pa pojavili dve zelo odmevni pismi znanstvenikov umetne inteligence. Ti dve pismi sta opozarjali na, eno na problem avtonomnih orožij, drugo pa na sploh problem, da zdaj v umetni inteligenci se bo začelo zastrupljati tudi vprašanje odgovornosti. Kdo je odgovoren, če umetna inteligenca naredi nekaj narobe? Ali pa kaj se zgodi, če avtonomno vozilo mora nujno se odločiti, kdo bo žrtev prometne nesreče, če se vidi, da je nesreča neizbežna. Skratka, tukaj je bil zelo močen poziv, ampak zelo previdno napisan. Previdno napisan v tem smislu, da mi ne govorimo, da je zdaj umetna inteligenca, da bi bilo treba to kakorkoli zavirati tehnične razvoje, ampak misli na to, na kakšen način je treba zagotoviti varno uporabo umetne inteligence. In ti dve pismi nista bili posebej uspešni, čeprav jih je podpisalo veliko število, tisto proti avtonomnim orožjem, vsaj ene 30.000 podpisnikov. Zdaj, vprašanja, ki so bila naslovljena v teh dveh pismih, so se pa začela poglabljati in potem je še prišlo tudi do cele vrste iniciativ, ki so poskušale na en način z primerno regulacijo doseči varno uporabo umetne inteligence. To je recimo okoli leta 2020 UNESCO priporočila za etično umetno inteligenco. Potem ustanovljena je bila organizacija GPAI, Global Partnership on AI, ki je ravno tako imela nalogo, to se je imenovalo Responsible AI in tako naprej. Ampak razvoj umetne inteligence je bil pa tako hiter in, in tako uspešen, da je tudi zdaj gospodarsko postala vedno bolj pomembna in tudi finančni interesi so postali vedno bolj pomembni. Tako da smo zdaj prišli v situaciji, ko so finančni interesi, pa tekmovanje med firmami in med državami je tako naraslo, da mnogi gledajo na poskuse regulacije umetne inteligence kot na dušenje razvoja in na zaviranje tekmovalnosti. Zanimivo je recimo to, da je svetla točka v tem pomanjkanju regulacije, je, je pravzaprav Evropa s svojim aktom o umetni inteligenci Tako v Evropi imamo mešane občutke glede tega akta. Preostali del sveta, ki pa nima tako jasne zakonodaje v tem smislu, pa gleda na Evropo kot na svetlo točko in upajo na tako imenovani Brussels effect, ko bo to, kar se dogaja v Bruslju, bo nekako usmerilo cel svet v smeri varne in etične uporabe umetne inteligence. Ampak medtem se pa tudi v Evropi pojavljajo mnogi, ki smatrajo kot, da je zdaj ta evropski akt o umetni inteligenci zavora za, za razvoj in zavora za, za tekmovalnost Evrope in da bo zdaj zaradi tega Evropa še bolj zaostala. Tako da imamo tukaj zelo mešane poglede na to in situacija je vse prej kot jasna. Bi pa povedal mogoče še, še nekaj. Iskreno moram reči, da te spremembe, ki jih uvaja generativna umetna inteligenca v človeško življenje, korenito spreminjajo relacije v človeški družbi. V mnogih ozirih, na primer v pisanju zakonodaje, v sodstvu, v medicini, v zaščiti demokracije, v znanosti in v izobraževanju. Torej, skratka, vsa področja se, se zelo spreminjajo in tukaj ni jasno, kakšne bodo posledice. Mislim, da bi nujno bilo, da cel svet se zedini okoli tega, na kakšen način bi bilo treba to na smiselen način obvladovati. Dobro, to je moje mnenje, ampak to je mnenje tudi ogromnega števila strokovnjakov za umetno inteligenco in med drugim tudi ljudi, ki so povsem v vrhu kot strokovnjaki umetne inteligence. Na primer Geoffrey Hinton, ki je dobil Nobelovo nagrado za svoje prispevke k globokemu učenju. To se pravi, ravno tista tehnologija, ki je najbolj sporna v tem razvoju oziroma ki bi jo bilo treba najbolj regulirati, tam je on največ prispeval in njega na nadaljnji razvoj uporabe te tehnologije najbolj skrbi. Ravno zato je dobil Nobelovo nagrado. Drugi znanstvenik, ki ima popolnoma enako mnenje kot Geoffrey Hinton, je Yoshua Bengio. On ni dobil Nobelove nagrade, ampak je pa najbolj citirani živeči znanstvenik ta trenutek. On ima preko milijon citatov v Google Scholar podatkovni bazi. Ugibate lahko, kdo, kdo ima pa drugo največje število citatov, ki je tudi že več kot milijon. No.

Frenk: 1:03:48

Tudi kakšen računalničar?

Bratko: 1:03:50

Prej sem omenil, ja, je pa Geoffrey Hinton.

Frenk: 1:03:52

Hinton, ja.

Bratko: 1:03:53

Pač dva strokovnjaka, ki sta tudi med sabo sodelovala pri razvoju globokega učenja in imata popolnoma enako mnenje in to mnenje tudi mnogi podpisnikov njihovih odprtih pisem, da je treba nekaj narediti v tej, tej zvezi. To, to upoštevajo. Med drugimi tudi Stuart Russell. Stuart Russell pa pač avtor najbolj priznane knjige o umetni inteligenci Se pravi, tukaj imamo tri vodilna imena, ki so imajo popolnoma enako mnenje. Recimo, jaz sem danes slučajno poslušal en podcast, v katerem je Stuart Russell razlagal, kaj se dogaja z velikimi jezikovnimi modeli, da so se naučili nekako principa samohranitve in ko model pride do trenutka, ko misli, da je ogrožen, recimo, da uporabniki ugotovijo, da bi bilo, da je zdaj ta postal eksistenčno nevaren za človeštvo, ti modeli to zaznajo in potem začnejo uporabnika zavajati ali pa naredijo rezervno kopijo, tako da ostanejo pri življenju tudi, če bi zdaj to originalno kopijo izklopili. Skratka, to zdaj postaja res vprašljivo. Zdaj Russell je spet razlagal o tem, da, da se pišejo novi pozivi, da naj bi cel svet, vse države sprejele neke principe do konca leta 2026 o tem, kako naj bi izgledala regulacija, ki bi zagotavljala varnost. Ampak spet se mi zdi, da vsi ti trije geniji ne upoštevajo dovolj tega, kako je težko svet spraviti skupaj, zato da sprejme eno enotno mnenje o enem problemu.

Frenk: 1:05:45

To zveni res precej zahtevno, da se ravno zaradi tega tekmovanja, ne, kot ste omenili prej, predvsem med vzhodom in zahodom. Ja, to je kar težko. Ampak vseeno ostajamo optimistični, da se bo človeštvo nekako zedinilo.

Bratko: 1:06:01

Ja, upajmo. Saj so poleg teh pozivov so tudi konkretne akcije. Ustanovljena je bila mednarodna organizacija International Association for Safe and Ethical AI, ki tudi nekako pridobiva na, na teži. OECD se s tem ukvarja. GPAI je še vedno nekako aktiven, čeprav, dobro, se, se vidi, da GPAI recimo nekaterim državam ni bil pogodu, pa so ga spravili malo na stran. Ja, tukaj je veliko faktorjev, ki, ki tukaj sodelujejo.

Frenk: 1:06:42

Ja, pa tudi tako, kot ste omenili, ne, hitrost napredka, sploh na tem področju, v bistvu izjemno hitro raste.

Bratko: 1:06:48

Hitrost napredka je problematična in, in tudi to, da mi ne vemo, na kakšen način delujejo globoke nevronske mreže. To se pravi, tudi ne razumemo dobro in ne moremo napovedati delovanja velikih jezikovnih modelov, generativne umetne inteligence. To nekako vse prispeva k temu, da so se, se tukaj pojavljajo nevarnosti in nevarnosti so pa zdaj celo tisti, ki so prej imeli, niso imeli nobenih zavor, so ugotovili, ja, pravzaprav res smo ugotovili, da je ogrožena kibernetska varnost v prvi vrsti. Zelo jasni primeri so se pokazali, tako da upamo, da se bo zaradi tega nekaj več ljudi tukaj obrnilo in bodo razumeli, da je to potrebno.

Frenk: 1:07:36

Ja, in tukaj tudi, ja, so na srečo tudi primeri dobrih praks, a ne, tudi, tudi ti veliki laboratoriji, a ne, ki recimo vse to pospešujejo, tudi sami recimo se probajo osredotočati na varnost, etičnost in take stvari.

Bratko: 1:07:51

Ja, mene, mene je presenetilo, da nekateri od teh velikih laboratorijev, velikih firm, ki imajo gotovo tudi komercialne interese, ampak se zavedajo tudi te odgovornosti. Ja.

Frenk: 1:08:01

Absolutno je pa to definitivno pomembna tema in ja, to je ravno zanimivo, ne, v tem recimo času, včasih ni bilo to mogoče tako nujno vprašanje, danes se pa res vidi, da je to mogoče celo na prvem mestu ali pa zelo, zelo visoko ob vsem tem, kar bi lahko se ljudje, predvsem tudi raziskovalci in pa tisti posamezniki, ki delajo na tem področju, na to fokusirali ali pa tudi tisti, ki to regulirajo, imajo neke vrste vpliv. Mogoče počasi za zaključek, a imate potem glede na to, kar ste povedali v tej zgodbi, kakšen nasvet za pa poziv mogoče za mlade ali pa za posameznike, ki ali delujejo na tem področju ali pa jih to zanima, kaj bi jim priporočili, da se recimo fokusirajo ali pa kaj lahko storijo?

Bratko: 1:08:54

Ja, to vprašanje je ogromno in večplastno. Posebej ste omenili mlade. Mladi vehementno uporabljajo to tehnologijo tudi v izobraževanju. Jaz ne vem, ali je to v vseh pogledih dobro. Res je, da je izobraževanje bistveno bolj učinkovito. Torej, učinkovito v tem smislu, da mladi ljudje, študentje, dijaki dosežejo rezultate z, z minimalno napora, ampak rezultati, ki jih dobijo s pomočjo generativne umetne inteligence, so primerljivi z najboljšimi rezultati, ki jih, ki bi jih lahko dosegli ali pa to presegajo, pa z tako malo napora. Najbrž je treba se vprašati tukaj, kakšni bodo zdaj cilji izobraževanja. Na primer, ali bo cilj izobraževanja še vedno, da dosežemo, da se dijaki in študenti naučijo spretnosti izražanja, ali mogoče to sploh ni več pomembno. Jaz se ne bi upal tega reči. Jaz, jaz osebno bi raje videl, da se ljudje še vedno naučijo sposobnosti izražanja, ne pa da bodo zdaj za celo življenje odvisni od velikih jezikovnih modelov, ki bodo za njih pisali vsa pisma, vse dopise, vse, kar oni naredijo. V glavnem, ogromno problemov je, ampak če gledamo ta to, kar ti trije vodilni znanstveniki umetne inteligence, vključno s Hintonom, predlagajo, je, da je treba razmišljati o, o neki nujni regulaciji. Kot je človeštvo se zedinilo o regulaciji atomske energije, ampak ne samo to, tudi v biologiji, kaj je v biologiji ali pa genetiki nekako koristno in kaj, kaj je sprejemljivo, kaj pa ni sprejemljivo. In zelo podobno bi morali narediti tudi z umetno inteligenco.

Frenk: 1:11:00

Doktor Ivan Bratko, najlepša hvala za, za vaš čas in prijeten pogovor. Tudi hvala poslušalcem za, za vašo pozornost in hvala.

Bratko: 1:11:12

Hvala tudi vam.