AI

AI yra tokia tema, kur man, kaip žmogui, kuriam labai patinka technologijos, sci-fi ir futurizmas, patinka ir mėgstu apie tai kalbėti. Kalbas apie apribojimus, pasekmes ar moralines ribas liečiančias šią sritį būtų galima priskirti į vieną iš moderniosios filosofijos šakų.

Suprantu, jog iš šalies kai kuriems tai atrodo too much, visiška fantastika ir apie tai kalbantiems žmonėms pasiūlytų negyventi iliuzijose. Tačiau asmeniškai manau, kad kelias kuriuo mes einame neišvengiamai suka ta linkme. Technologijos ir komunikacijos per pastaruosius 30 metų integravosi į mūsų gyvenimus itin glaudžiai ir kardinaliai juos transformavo. Jau ir taip kiekvienas savo telefone turime išmaniuosius asistentus, kurie nors ir būna kartais impressive ar naudingi, bet fundamentaliai vis dar yra buki. Tačiau dabartiniai išmanieji asistentai tiesiog yra rodiklis link kur mes einame ir liudija apie tai, jog čia tik pirmieji žingsniai. Man nė nekyla menkiausios abejonės, jog vis dažniau teks susidurti su realybe, kuri atrodo tarsi iš fantastikos srities. Neurolink ar SpaceX yra geras to pavyzdys. Atsižvelgiant kiek naudos mums tai sukuria, progresas yra neišvengiamas ir nesustabdomas, nebent nutiktų kardinali katastrofa, kuri turėtų būti tokia bloga, kad civilizacija turėtų būti tiesiog nušluota. O jei mes vis toliau ir toliau progresuosime, tai neišvengiamai vieną dieną sukursime mašinas, kurios yra ne tik protingesnės už mus, tačiau ir kurios sugebės save tobulinti pačios. Ir progreso tempas šiuo aspektu net nesvarbus: bet koks progresas, kad ir koks jis mažas būtų, reiškia, jog eventually pasieksime tokį rezultatą. Nereikia kažkokio eksponentinio progreso šuolio, užtenka tiesiog tęsti tai, ką ir taip darome. Šiuo metu mūsų sukurtos AI sistemos apsiriboja tik ties labai specifinės užduoties vykdymu. Machine learning principais darome pattern recognition ir jau matosi rezultatai, kokį potencialą gali turėti tokios sistemos, nes jos konkretų darbą gali daryti nepalyginamai, šimtais ar tūkstančiais kartų pranašiau, nei žmonės. Pattern recognition yra tik viena mūsų smegenų funkcijų iš kelių tūkstančių, tačiau anksčiau ar vėliau mes išmoksime daryti gerokai platesnius algoritmus, kurie vienu metu sugebės apimti ne vieną sritį, kurie sugebės mokytis, atrinkti reikiamą ir tinkamą informaciją ir interpretuoti ją. Ir tai jau iš tiesų bus galima vadinti AI. Sakinys turėtų prasidėti ne su IF o WHEN it happens.

This left us staring at the screen, confronting the intense concept of potentially-in-our-lifetime Artificial Superintelligence, or ASI (AI that’s way smarter than any human, across the board), and trying to figure out which emotion we were supposed to have on as we thought about that.

Notes

  • Technologijų futuristas Jamie Metzl pas Joe Rogan laidoje, kalba apie tai, kaip neišvengiamai technologijos integruosis, kad nebebus tokio ryškaus atskyrimo, kaip biologinė ir technologinė evoliucija, jos susilies į vieną. Because we're on this exponential change it's really hard for people to internalize a kind of feel how fast these changes are coming.

  • Vienas iš argumentų bandant sumažinti teiginius keliančius abejones ir baimę yra tai, kad dirbtinė intelekto forma nebūtinai turi būti priešiškai nusistačiusi, kaip mėgstama vaizduoti kino filmuose ir kad suteikiama nauda, gali kur kas lenkti bet kokią riziką. Tačiau šitas point'as yra labai slidus, dėlto, kad visa rizika atsiranda iš to jog atsiradus super intelligent AI, mes neteksime kontrolės, o intelekto šuolis gali būti toks staigus, jog primintų sporgimą ir mes akimirksniu liksime toli, daugybę laiptelių žemiau. O turint intelekto formą, kuri mus lenktų daugybę kartų, sukuria visiškai naujas rizikas. Užtenka pasižiūrėti į mūsų pačių elgseną:

  • Intelligence gives us godlike powers over all other creatures on Earth—which has not been a fun time for the creatures. If any of their body parts are possible value creators, we have major industries processing and selling those body parts. We sometimes kill them for sport. But we’re probably the least fun all the times we’re just doing our thing, for our own reasons, with no hate in our hearts or desire to hurt anyone, and there are creatures, or ecosystems, that just happen to be in our way or in the line of fire of the side effects of what we’re doing. People like to get all mad at humanity about this, but really, we’re just doing what species do—being selfish, first and foremost.

What happens when our computers get smarter than we are? | Nick Bostrom

Can we build AI without losing control over it? | Sam Harris