Третата епизода од втората сезона на „Ѕвездени патеки: следната генерација“ (Star Trek: The Next Generation), насловена „Елементарно, драг Дата“ (Elementary, Dear Data) емитувана во САД во 1988 година, а која ја имам гледано во штотуку самостојна Македонија во раните 1990-ти, останува во моето сеќавање како впечатлив приказ на интеракцијата помеѓу човечката креативност и вештачката интелигенција. Се разбира тогаш не ја гледав од денешна перспектива. Вештачката интелигенција тогаш за нас значеше нешто во вид на андроид (како Дата) или некој суперкомпјутер од визиите на филмот Метрополис – далеку од денешните ChatGPT или Stable Diffusion.
Како љубител на научната фантастика, она што ме фасцинирало е тоа што таа честопати поставува егзистенцијални и суштински прашања од животот кои се валидни во секое време и засекогаш. Скоро повторно ја изгледав оваа епизода и ме удри како молња – во неа има многу сличности со начинот на кој денес пристапуваме кон генеративната вештачка интелигенција и големите јазични модели (LLM). Преку обликување на наредбите (промптовите), до создавање на приказна во стил на Артур Конан Дојл, преку дилемите дали АИ може да создаде нешто вистински оригинално или само ремиксира постоечки шаблони, до потенцијалот и опасностите од ВИ – во епизодава има сè!
Врзете се – полетуваме!
Дејствието на епизодата
Епизодата ги следи Дата (не е Спок!) и Џорди Ла Форж (типот со венче на очите) во нивната авантура во холодекот (фиктивен уред кој користи холограми за да создаде реалистична 3Д симулација на имагинарна околина во која учесниците можат слободно да комуницираат со околината, предметите и ликовите.).
Дата го игра Шерлок Холмс, а Џорди е д-р Вотсон. Нивните обиди да создадат мистерија достојна за аналитичките способности на Дaта преку менување „команди“ на компјутерот неверојатно потсетуваат на нашите интеракции со модерните АИ системи како ChatGPT или Grok. Во исто време, скептицизмот на д-р Пулaски за креативноста на Дата покренува прашања кои и денес се во сржта на дебатите за LLM: може ли вештачката интелигенција навистина да биде креативна, или само ремиксира шаблони од податоците на кои е обучена?
„Промптирање“ на холодекот: огледало на модерната интеракција со АИ
Дата и Џорди се впуштаат во процес кој многу наликува на инженерство на промптови, уметноста на креирање наредби за да се добијат посакувани излези од АИ системите. Нивниот прв обид е едноставен:
„Компјутер, избери случајна мистерија од Сер Артур Конан Дојл, каде јас ќе го играм Шерлок Холмс, а поручникот Ла Форж ќе биде д-р Џон Вотсон.“
Оваа почетна команда е слична на барање од LLM да генерира приказна во одреден стил или врз основа на познат сет на податоци. Сепак, резултатот го разочарува Џорди. Дата лесно ја решава мистеријата препознавајќи ја како директна адаптација на приказна од Конан Дојл. Незадоволни, тие ја прецизираат командата:
„Еве. Му дадов инструкции на компјутерот да ни даде проблем во стилот на Шерлок Холмс, но не напишан конкретно од Сер Артур Конан Дојл.“
Ова прилагодување потсетува на тоа како денес ги усовршуваме командите за да го поттикнеме АИ да создаде нешто надвор од познатите шаблони. Употребата на наредбата „во стилот“ е особено пророчка!
Прашањето на Џорди „Значи, ова ќе биде нешто ново, нешто создадено од компјутерот?“, ја отсликува надежта дека АИ може да произведе нови сценарија. Но, вториот обид на компјутерот исто така не успева, создавајќи мистерија премногу слична на постоечките за суперхуманиот интелект на Дета. Затоа, тие повторно ја прилагодуваат командата.
„Компјутер, создај мистерија во холмсовски стил што ќе го збуни Дата со противник кој има способност да го победи.“
Што значи ова?
Оваа ескалација резултира со создавање на сензибилен професор Мориарти, лик кој ја надминува програмацијата на холодекот и станува свесен! Ова покренува етички и егзистенцијални прашања. Овој процес на прецизирање на командите за да се постигне посакуваниот исход е речиси совршена аналогија за тоа како девелоперите и корисниците денес комуницираат со јазичните модели.
Прво започнуваме со широки барања, потоа ги усовршуваме промптовите за да избегнеме клишеа, а понекогаш ненамерно привикуваме одредени последици, како кога внимателно формулирана команда генерира излези што ги поместуваат границите на способностите на системот.
Скептицизмот на д-р Пулaски: загатката на креативноста
Д-р Пулaски, воведена во втората сезона како замена за д-р Беверли Крашер, носи критична перспектива за способностите на Дата, која одекнува во современите дебати за креативноста на ВИ. Нејзиниот скептицизам граничи со она што би можеле да го наречеме „андроиден расизам“, односно отфрлачки став кон потенцијалот на Дата за оригинална мисла. Во жестока дебата, таа ја оспорува дедуктивната моќ на Дета:
„Измама. Ти не заклучи ништо. Само препозна елементи од две различни приказни за Холмс. Измама. […] Сè што тој знае е зачувано во неговата меморија. Инспирација, оригинална мисла, сите вистински силни страни на Холмс не се можни за нашиот пријател. Ќе ти оддадам признание за твоето огромно знаење, но твоите електронски кола би прегореле ако се соочат со вистински оригинална мистерија. Елементарно, драг Дата!“
Критиката на Пулaски e слика и прилика на честата загриженост за генеративната АИ: дека ѝ недостасува вистинска креативност и само произведува „варијации на тема“.
Овој аргумент сугерира дека јазичните модели, обучени на огромни сетови податоци од содржини создадени од луѓе, можат само да ремиксираат постоечки шаблони, наместо да генерираат вистински нови идеи.
Ова критика упатена важи особено за алатиките за генеративна ВИ кои создаваат слики, како Stable Diffusion, DALL-E, Midjourney, но и кон јазичните модели, кога критичарите тврдат дека излезите се изведени од податоците на кои се обучени.
Сепак, епизодата го оспорува овој став преку појавата на Мориарти. Холодекот, поттикнат да создаде противник способен да го победи Дата, генерира лик кој не само му парира на интелектот на Дата, туку достигнува и самосвест – исход што ги надминува оригиналните програми на системот.
Ова потсетува на моментите кога модерните јазични модели нè изненадуваат, произведувајќи „излези“ што изгледаат креативно или проникливо, дури и ако технички се засноваат на шаблони од нивните податоци за обука.
На пример, кога јазичниот модел генерира нова приказна или решава сложен проблем на неочекуван начин, или кога генеративната ВИ применета во медицината создава нови лекови или решава досега нерешливи прашањата во науката. Тоа нè поттикнува да се запрашаме дали креативноста е за создавање на нешто сосема ново или вешто комбинирање на постоечки елементи на начин што изгледа свежо. Дали и ние, луѓето, го правиме истото?
Етиката на непредвидените последици
Создавањето на Мориарти кој чувствува и мисли, покренува етички прашања што одекнуваат со денешниот ВИ пејзаж. Кога Џорди и Дата го туркаат холодекот до неговите граници, тие ненамерно создаваат суштество со волја, желби и право на постоење. Ова е слично на загриженоста за генеративните ВИ системи кои произведуваат „излези“ со непредвидени последици.
Основното прашање кое го поставува епизодата е: „каква одговорност имаат креаторите кога нивните команди водат до исходи надвор од нивната контрола?“ Ова прашање станува сè поважно додека развиваме сè помоќни ВИ системи, каде границите на етиката стануваат заматени.
Креативноста во ерата на јазичните модели и генеративна ВИ
Предизвикот на Пулaски кон Дата, дали може да реши вистински оригинална мистерија, е интересен, но мислам дека е веќе надминат. Прашањето на креативноста е сè уште нерешено. ВИ моделите се истакнуваат во препознавање на шаблони и генерирање, нивната „креативност“ останува предмет на дебата.
Некои тврдат дека креативноста бара свест или интенционалност, квалитети што АИ ги нема. Други сметаат дека креативноста не е метафизички феномен и дека се работи за „излези“ што изненадуваат, воодушевуваат или решаваат проблеми на нови начини.
Во епизодата „Елементарно, драг Дета“, појавата на Мориарти сугерира дека дури и систем ограничен со код може да произведе нешто што изгледа живо и оригинално, оптимистичка гледна точка за оние кои веруваат дека ВИ може да ги помести креативните граници.
Наместо заклучок, управување со иднината
„Елементарно, драг Дата“ е повеќе од љубовно писмо до Шерлок Холмс; тоа е пророчка медитација за интеракцијата помеѓу човечката креативност и вештачките системи. Промптирањето на системот ја одразува нашата сопствена игра со генеративната АИ и јазичните модели, додека ги усовршуваме „влезовите“ за да извлечеме сè повпечатливи „излези“.
Скептицизмот на Пулaски нè потсетува да се запрашаме дали креациите на ВИ се вистински нови или само паметни ремикси. А самосвеста на Мориарти нè предупредува да бидеме внимателни додека ги поместуваме границите на она што ВИ може да го направи.
Епизодата нуди безвременска лекција: моќта на ВИ не лежи само во нејзините „излези“, туку во тоа како го обликуваме нејзиниот потенцијал преку внимателни команди и етичка рефлексија. Како што Дета и Џорди научија да ги почитуваат созданијата на холодекот, така и ние мора да пристапиме кон ВИ со љубопитност, внимателност и подготвеност да се соочиме со мистериите што ги открива. И можеби повеќе да поработиме на fail-safe копче за initiate-self-destruct-sequence, во случај нештата да тргнат наопаку!
Да заклучиме, во стилот на Холмс- најголемиот предизвик можеби е да го разбереме противникот што сме го создале – и дали е способен да нè надмудри.
