АНА МАРТИНОЛИ
Софистицираноста на вештачката интелигенција поттикнува параноја, која ја еродира довербата, правејќи ги корисниците или премногу претпазливи или, парадоксално, поранливи на измама
Во ерата кога дигиталната измама е сè пософистицирана, социјалниот инженеринг е механизам што ги користи способностите и слабостите на човечката психа за да ги заобиколи дури и најробусните мерки за сајбер безбедност. За разлика од традиционалното хакирање, кое ги таргетира техничките ранливости во уредите или апликациите што ги користиме, социјалниот инженеринг манипулира со емоциите, довербата и стравот. Социјалниот инженеринг користи фундаментални аспекти на човечката психологија – доверба, страв или потчинување на авторитетот. Подемот на социјалниот инженеринг, особено во онлајн комуникациите, поттикна зголемен степен на недоверба, па дури и ирационален страв додека почнуваме да ја испитуваме секоја е-пошта, видео или порака.
Чувствата на недоверба или страв се јавуваат кога, во средина каде што измамата е сè потешко да се открие – од ботови до видео содржина генерирана од вештачка интелигенција – нашите мозоци почнуваат да се фокусираат на откривање на закани, дури и таму каде што ги нема. Сè повеќе, измамите со содржина создадена од вештачка интелигенција го поттикнуваат таканаречениот парадокс на доверба и параноја, каде што зголемената будност ја штити и ја поткопува безбедноста. Преоптоварени од постојани закани, поединците може да престанат да им веруваат на навидум безбедни извори за да го намалат стресот. Студија на Универзитетот во Кембриџ од 2023 година покажа дека честата изложеност на измами управувани од вештачка интелигенција ја зголемува анксиозноста за една четвртина и ја намалува довербата во дигиталните комуникации за една третина, но парадоксално ја зголемува подложноста на софистицирани измами поради замор од постојана проценка.
Анкета спроведена една година подоцна за „парадоксот на довербата“ во вештачката интелигенција откри дека 65% од граѓаните на САД ја поддржуваат употребата на технологии за вештачка интелигенција (на пр. во модерацијата на социјалните медиуми) и покрај тоа што само половина им веруваат бидејќи не разбираат како функционира. Овој јаз покажува како комплексноста на вештачката интелигенција ја поттикнува паранојата, бидејќи корисниците не можат целосно да ги разберат или потврдат системите на кои се потпираат. Влијанието на вештачката интелигенција во создавањето на парадоксот на паранојата доаѓа од неколку технологии. Пред сè, постојат длабоки лажни содржини и клонирање глас, кога генеративната вештачка интелигенција создава хиперреалистични имитации, искористувајќи ја довербата на корисниците. Минатогодишниот MIT Technology Review зборуваше за двојно зголемување на длабоките лажни измами од 2022 година, при што една четвртина од жртвите пријавуваат долгорочна вознемиреност. Следно е автоматизиран фишинг кога NLP моделите создаваат персонализирани е-пораки, прилагодувајќи се на одговорите на корисниците во реално време.
Некои студии покажуваат дека 60% од испитаниците биле жртви на автоматизиран фишинг со вештачка интелигенција, што е споредливо со стапките на успех на фишинг пораките создадени од луѓето. Друг начин е профилирање на податоци, каде што вештачката интелигенција собира огромни групи информации од платформи како X за да изгради психолошки профили, предвидувајќи ги ранливостите на корисниците. Делоит предвидува дека некои од најчестите измами со употреба на вештачка интелигенција ќе бидат лажното претставување и шемите каде што измамниците создаваат синтетички идентитети со комбинирање на реални и фиктивни, вештачки генерирани информации за да формираат нови, фиктивни персони. Конечно, „црната кутија“ на вештачката интелигенција, т.е. нејзината нејасна, нетранспарентна природа, каде што влезните податоци и операциите не се очигледни, поттикнува недоверба. Овие технологии создаваат повратна јамка: софистицираноста на вештачката интелигенција предизвикува параноја, која ја еродира довербата, правејќи ги корисниците или премногу претпазливи или, парадоксално, поподложни на измама поради ментална исцрпеност.
(авторката е теоретичарка на медиуми)
