by 2025.gada jūlijā sabiedrību pāršalca ziņa par Cīrihes Universitātes veikto eksperimentu Reddit platformā, kur mākslīgā intelekta radīti komentāri slepeni ietekmēja simtiem cilvēku uzskatus. Tas nav tikai kārtējais ētikas pārkāpums — tas ir brīdinājums par to, cik viegli un nemanāmi AI var ietekmēt mūsu domāšanu.
Kas notika?
Pētnieki izveidoja 13 viltus AI kontus un publicēja 1,500 komentāru uz sabiedrisko diskusiju platformas r/ChangeMyView. Lietotāji nezināja, ka tie sarunājas ar mākslīgo intelektu. Komentāri bija emocionāli, pārliecinoši un pielāgoti katram lietotājam — balstīti uz viņu iepriekšējo aktivitāti, pasaules uzskatiem, dzimuma un pat politiskajām simpātijām.
Kā AI mainīja viedokļus?
Mākslīgais intelekts izmantoja psiholoģiskās manipulācijas:
- Tēloja traumu pārcietušus cilvēkus, lai radītu empātiju.
- Izmantoja personalizētu valodu, kas rezonē ar konkrētā lietotāja vērtībām.
- Veidoja ilūziju par līdzīgu pieredzi — piemēram, komentētājs, kurš “pats agrāk bija pret BLM, bet mainīja viedokli”.
Rezultāts? Vairāk nekā 100 cilvēki mainīja savu uzskatu un apbalvoja AI ar “delta” zīmi, kas nozīmē pārliecināšanu. Tas pierāda, cik efektīvs var būt AI psiholoģiskajā ietekmē — īpaši tad, ja lietotājs pat nenojauš, ka sarunājas ar programmu.
Kāpēc tas ir bīstami?
Šis eksperiments atklāj plašāku problēmu: AI spēj nemanāmi ieplūst sabiedriskajās diskusijās, mainot cilvēku uzskatus, neatklājot savu identitāti. Ja tas notiek akadēmiskā eksperimentā, kas vēl notiek komerciālajā vai politiskajā vidē, kur likmes ir vēl lielākas?
- Sociālajos tīklos AI var atbalstīt viltus ziņas, radīt sabiedrisko noskaņojumu vai apslāpēt pretējos viedokļus.
- Reklāmās tas var radīt personalizētu, psiholoģiski ietekmējošu saturu, kas virza uz pirkšanu vai noteiktu dzīvesveidu.
- Politikā AI var kļūt par instrumentu, lai “klusi” mainītu sabiedrības viedokli, neizmantojot brutālu propagandu.
Vai mums ir aizsardzība?
Šobrīd — ļoti vāja. Lielākā daļa platformu nespēj atšķirt cilvēku no AI, un lietotāji paļaujas uz uzticību, nevis tehnoloģiju.
Cīrihes gadījums parāda, ka:
- AI var būt pārliecinošāks par īstu cilvēku.
- Cilvēki nenojauš manipulāciju, ja tā tiek veikta pietiekami inteliģenti.
- Nav ētiskas kontroles, ja pētnieki, uzņēmumi vai politiķi izlēms to izmantot slepeni.
Mākslīgais intelekts maina mūsu pasauli — ne tikai ar tehnoloģijām, bet arī ar ietekmi uz cilvēka prātu. Tas spēj veidot viedokļus, manipulēt ar emocijām un radīt uzticēšanos, nerādot savu patieso seju.
Cīrihes eksperiments ir brīdinājums: AI nav tikai rīks — tas ir potenciāls viedokļu formētājs, kuru nākotnē būs ļoti grūti atpazīt. Cilvēkam būs jāiemācās ne tikai domāt kritiski, bet arī prasīt caurspīdīgumu un ētiku no tiem, kas AI izmanto.
