Софтверски модул који мења понашање језичког модела у самом току разговора, а који је развијен на Самарском националном истраживачком универзитету „Корољов“, отворио је нову стручну полемику у области генеративне вештачке интелигенције.
Систем под називом „Лабораторија емоција“ процењује корисничке захтеве и у реалном времену мења унутрашње параметре самог модела. Те промене непосредно диктирају регистар изражавања, тон комуникације и ниво сарадње у сваком наредном одговору.
Иако су креатори овим параметрима доделили биохемијске називе, попут „дигиталних хормона и неуротрансмитера“, у рачунарској архитектури нема било каквих биолошких основа: у питању су искључиво математичке променљиве и тежински коефицијенти којима се кроз програмски код симулира тренутно „емотивно“ стање дигиталног саговорника.
Када је машина била само машина
У раним фазама примене, улога дигиталних саговорника била је строго детерминистичка и сведена на просту размену информација: пријем упита, препознавање намере корисника (intent recognition), претрагу базе знања и испоруку тачног одговора.
У таквом контексту, тон и стил нису имали никакву оперативну вредност. Било да је реч о техничкој подршци, корисничком сервису или претрази документације, четбот је функционисао тек као посредник између корисника и базе података. Једина мерила успеха била су брзина одзива, тачност информација и проценат успешно решених захтева. Саговорник с друге стране екрана није имао никакав лични печат, а камоли карактер.
Како системска правила одређују понашање модела
Развојем инжењеринга упита (prompt engineering) створен је простор за профилисање стила, језичког регистра и доследног наступа модела. То се постиже пре свега кроз системски упит и податке којима се модел „храни“ – скуп правила и пратеће документације који диктира избор речи, дужину и степен формалности одговора, однос према саговорнику, дозвољену меру хумора или ироније, али и понашање у ситуацијама када подаци у бази недостају.
Знатно већи инжењерски и етички изазови прате израду дигиталних реплика савременика и историјских личности, где није довољно само преименовати модел и у контекстни прозор унети биографске податке из нечијег живота. Појам „дигиталног близанца“ у јавности се често погрешно изједначава са потпуном симулацијом нечије личности.
У реалном развоју софтвера реч је о циљаном моделовању одређених ставова, стручног корпуса знања и препознатљивих образаца изражавања, уз јасне границе о томе шта модел сме самостално да генерише.
У стандардним поставкама са једним системским упитом, дефинисани карактер остаје непромењен. Како год текао разговор, модел се увек враћа на почетно задати стил. Пројекат из Самаре представља покушај да се са статичног карактера пређе на променљиво, условљено стање.
Разлика је суштинска: једно је упитом фиксирати непроменљива правила понашања агента, а сасвим друго увести повратну спрегу која током разговора динамички мења његову уздржаност, предусретљивост или дужину одговора. У таквој поставци, корисников унос више није само упит на који треба одговорити, већ улазна променљива која активно мења унутрашње параметре агента пре него што он састави следећи одговор.
Шта су и како раде „дигитални хормони“
Према доступном техничком опису прототипа, овај модул функционише као посреднички слој кроз повезан низ операција. Процес започиње проценом значења и тона улазне поруке, при чему систем анализира текст како би измерио колико је саговорник провокативан, непријатан, формалан или кооперативан.
На основу тих очитавања софтвер прерачунава унутрашње нумеричке вредности; параметру који модел наводи на тврдоглавост, уздржаност и сажетије одговоре аутори су наденули назив „тестостерон“, док су променљивој задуженој за прилагодљивост, попустљивост и опширнија објашњења дали име „естрадиол“. Те променљиве потом делују као динамички филтер који усмерава процес генерисања, подешавајући вероватноће избора наредних речи и укупан стилски регистар одговора.
Како би се обезбедио континуитет, систем се ослања на механизам хистерезе, па тренутно стање не зависи само од последње поруке већ од целокупног тока разговора – уколико корисник низом оштрих реплика подигне праг уздржаности, једно успутно извињење неће одмах ресетовати параметре, већ се тон модела опушта постепено, кроз неколико узастопних корака.
Упркос приказаном раду прототипа, аутори нису открили кључне техничке појединости: недостају подаци о томе којим се тачно моделом врши анализа сентимента, како изгледа расподела тежинских функција по којима се стања мењају, као ни на који су начин ови коефицијенти интегрисани у сам механизам пажње језичког модела.
Стара идеја у новом руху
Употреба синтетичких хормона у рачунарству није новост. Још 2006. године, Х. Ван Дајк Парунак и сарадници у раду A Model of Emotions for Situated Agents приказали су математичке моделе хормонских каскада код аутономних агената, где су параметри расли под утицајем спољних надражаја, а опадали када би надражаји престали. И тада је јасно наглашено: моделује се искључиво спољашње понашање система, без икаквих претензија на то да машина заиста нешто „доживљава“.
Новина самарског прототипа лежи у покушају да се овај концепт угради као модуларни додатак савременим језичким моделима.
Ипак, то што нема рецензираног рада, упоредних тестова (benchmarks) нити јавно доступног кода позива на опрез. За сада нема опипљивих доказа да овакав склоп даје боље и поузданије резултате од напредног вођења модела кроз кораке (chain-of-thought) и праћења тока разговора унутар самог контекстног прозора. Поред тога, свођење упорности на „мушки“, а компромиса на „женски“ принцип представља инжењерско поједностављивање без икаквог упоришта у когнитивним наукама.
Како ће „расположења“ машине утицати на пословање
Увођење променљивог стања има јасну сврху у наменским симулацијама. У програмима за обуку, попут вежби преговарања, решавања кризних ситуација или дипломатских разговора, саговорник који памти грешке полазника и на њих постепено реагује ствара знатно верније окружење од бота који сваки одговор почиње „хладне главе“. Из истог разлога овај приступ има смисла и у видео-играма, за сложеније споредне ликове (NPC).
Међутим, у уобичајеној примени у бизнису „променљиво расположење“ ствара проблем непредвидивости. У већини аналитичких, инжењерских и пословних задатака од језичког модела траже се уједначен квалитет, стабилност и објективност. Уколико одговор почне да зависи од симулираног „афективног стања“ у које је модел доведен током разговора, директно се нарушава поузданост система као радног алата.
Преузето са: It Network Фото: Grok
