Da li biste voleli da komunicirate sa svojim pokojnim precima, da ih pitate nešto što niste stigli ili da ponovo čujete njihov glas? Zahvaljujući razvoju generativne veštačke inteligencije, danas je tehnički moguće napraviti četbota koji simulira govor i način komunikacije preminule osobe. Iako zvuči kao scenario iz naučne fantastike, reč je o tehnologiji koja već postoji i koja postavlja važna etička pitanja, ko ima „autorsko pravo“ na sećanje i ličnost preminule osobe?
Šta je „spomen-bot“ i kako funkcioniše?
„Spomen-bot“ je digitalni model zasnovan na velikom jezičkom modelu (LLM), obučenom na materijalu vezanom za određenu osobu – poruke, beleške, snimci, intervjui. Upotrebom tehnika kao što su embedding pretraga, voice cloning i personalizovani interfejs, dobija se simulacija koja može da komunicira tekstualno ili glasovno. Ovakvi sistemi su se prvo pojavili u eksperimentalnim projektima poput Project December, a kasnije i u okviru platformi kao što su HereAfter AI i StoryFile, koje omogućavaju kreiranje digitalnih avatara, ali isključivo na osnovu sadržaja koji je osoba ostavila pre smrti. 
Tehnologije u pozadini: Od RAG pristupa do kloniranja glasa
Izrada jednog ovakvog bota podrazumeva prikupljanje materijala, njegovu obradu i primenu modela koji ne generiše odgovore proizvoljno, već ih zasniva na unapred definisanoj bazi. Najčešće se koristi pristup poznat kao RAG (Retrieval-Augmented Generation), koji omogućava sistemu da izvuče konkretan sadržaj iz sopstvene arhive. U glasovnoj verziji, sintetizovani glas može zvučati kao original. Ključnu ulogu ima prompt inženjer, koji određuje granice u ponašanju modela i kontroliše ton i sadržaj odgovora.
Ljudska potreba iza tehnologije: Očuvanje veze sa preminulima
Ovakvi četbotovi nisu nastali iz dosade, već potrebe da se očuva veza sa preminulim bližnjima. Neki korisnici koriste botove da bi deci približili dedu koga nikad nisu upoznala, drugi kao način da produže komunikaciju sa svojim voljenima. U kulturama koje neguju pamćenje i porodično predanje, ovi sistemi mogu delovati kao digitalna arhiva. Ipak, za neke su neprirodni i izazivaju nelagodu.
Pravni vakuum: Da li zakon prepoznaje digitalne preminule?
Pravna regulativa u ovoj oblasti je nepotpuna i nedovoljno precizna. U Srbiji ne postoji poseban zakon koji bi se bavio digitalnim replikama preminulih osoba. Ipak, ukoliko članovi porodice smatraju da je digitalni model narušio ugled, dostojanstvo ili autorska prava preminule osobe, mogu pokrenuti postupak pozivajući se na postojeće propise o zaštiti ličnosti i nematerijalne štete (na primer, član 199. Zakona o obligacionim odnosima i članovi 82–86. Zakona o autorskom i srodnim pravima).
Različite pravne prakse u svetu: SAD vs. EU
U Sjedinjenim Američkim Državama, pojedine savezne države priznaju pravo na glas, lik i digitalni identitet kao nasledivo pravo, što znači da se može pravno zaštititi i nakon smrti. Nasuprot tome, u većini zemalja Evropske unije ta prava nisu precizno definisana, pa ne postoji jedinstvena praksa, što ostavlja prostor za različita tumačenja i pravnu nesigurnost.
Etički izazovi: Primer Project December i zabrana OpenAI
Project December, koji je koristio GPT-3, ugašen je kada je OpenAI ograničio pristup, uz obrazloženje da je simulacija stvarnih osoba bez njihove saglasnosti protivna politici kompanije. Zabrana nije bila zasnovana na zakonu, već na internoj etici.
Zaključak: Tehnologija postoji, ali društvo postavlja granice
U Srbiji ovakvi četbotovi tek počinju da se pojavljuju. Za neke će to biti sredstvo čuvanja porodičnog nasleđa, za druge sporna praksa. Tehnološki, sve je izvodljivo. Pitanje je samo šta kao društvo smatramo prihvatljivim.
Photo: AI
Pitanje: Šta su spomen-botovi?
Kratak odgovor: Spomen-botovi (memorijalni botovi, digitalni blizanci umrlih) su čatbotovi zasnovani na veštačkoj inteligenciji koji imitiraju govor i ponašanje preminulih osoba, koristeći njihove poruke, snimke i druge digitalne tragove.
Detaljno objašnjenje: Tehnologija spomen-botova se zasniva na velikim jezičkim modelima (LLM) i metodama poput RAG (Retrieval-Augmented Generation). Podaci se prikupljaju iz privatnih arhiva – mejlova, SMS poruka, glasovnih snimaka, pa čak i objava na društvenim mrežama. Na osnovu toga kreira se interaktivni digitalni entitet koji može da komunicira slično kao pokojnik. Iako ideja obećava očuvanje sećanja, otvara i niz pitanja o granici između sećanja i simulacije.
Pitanje: Kako funkcioniše tehnologija iza spomen-botova?
Kratak odgovor: Spomen-botovi kombinuju više AI tehnika: RAG pristup za pretragu ličnih podataka, voice cloning za reprodukciju glasa i prompt engineering za kontrolu ponašanja i stila komunikacije.
Detaljno objašnjenje: RAG omogućava da sistem ne generiše nasumične rečenice, već da se oslanja na arhivski materijal konkretne osobe. Glasovni klon stvara uverljiv auditivni doživljaj, dok pažljivo kreirani promptovi određuju ton, formalnost i ograničenja u komunikaciji. Tehnologija je slična onoj koja se koristi u modernim virtuelnim asistentima, ali ovde je fokus na personalizovanom repliciranju pokojnika, što značajno povećava emotivni i etički ulog.
Pitanje: Zašto ljudi koriste spomen-botove?
Kratak odgovor: Glavni motiv je želja da se očuva kontakt sa preminulima, kao oblik digitalnog pamćenja i produžetka odnosa.
Detaljno objašnjenje: Neki vide spomen-botove kao utehu i način da se nastavi razgovor sa bliskom osobom. U kulturama gde je porodično pamćenje centralno, oni mogu postati digitalne arhive koje čuvaju glasove predaka. S druge strane, kod mnogih izazivaju nelagodnost jer interakcija deluje neprirodno i podseća na manipulaciju emocijama. Time se otvara jaz između onih koji tehnologiju vide kao čuvanje tradicije i onih koji je doživljavaju kao narušavanje prirodnog procesa žalovanja.
Pitanje: Koji su glavni etički izazovi spomen-botova?
Kratak odgovor: Najveći problem je simulacija identiteta osobe bez njene saglasnosti, što postavlja pitanja o privatnosti, zloupotrebi i manipulaciji emocijama.
Detaljno objašnjenje: Projekt December (baziran na GPT-3) pokazao je koliko je ovo kontroverzno – ugašen je zbog etičkih nedoumica o korišćenju identiteta bez pristanka. Čak i kad porodica odobri kreiranje bota, postavlja se pitanje da li pokojnik za života to nikada ne bi želeo. Dodatno, postoji opasnost od zloupotrebe podataka, naročito ako se čuvaju osetljive informacije koje mogu biti korišćene izvan konteksta „sećanja“.
Pitanje: Kako zakon reguliše spomen-botove?
Kratak odgovor: Većina država nema jasnu regulativu – u Srbiji se mogu primeniti opšti zakoni o zaštiti ličnosti, dok SAD i EU imaju različite, delimične pristupe.
Detaljno objašnjenje: U Srbiji ne postoje posebni propisi o digitalnim replikama preminulih, ali se mogu koristiti odredbe Zakona o obligacionim odnosima (nematerijalna šteta) i Zakona o autorskom pravu. U SAD, pojedine savezne države priznaju pravo na glas i digitalni identitet kao nasledivo, dok EU još uvek nema jedinstvenu praksu. Ovaj pravni vakuum čini oblast nesigurnom i podložnom zloupotrebama, naročito kod međunarodnih servisa koji posluju van domaće jurisdikcije.
Pitanje: Da li je ova tehnologija prihvatljiva?
Kratak odgovor: Pitanje nije da li je moguće napraviti spomen-bota, već šta društvo smatra etički i kulturno prihvatljivim.
Detaljno objašnjenje: Tehnologija već postoji i brzo napreduje. Neki je vide kao alat za očuvanje kolektivnog pamćenja i način da generacije bolje upoznaju svoje pretke. Drugi smatraju da ona briše granicu između života i smrti, što može imati ozbiljne psihološke posledice. Time se otvara šira debata o tome da li društvo treba da dozvoli „virtuelni život nakon smrti“ ili da povuče jasne granice kako bi se sprečile zloupotrebe.
