TOM TELEFON se pridružuje globalnemu pozivu k prepovedi orodij za razgaljanje in zaščiti otrok pred izkoriščanjem.
Danes, 10. februarja, na Dan varne rabe interneta, TOM TELEFON skupaj z 107 organizacijami, institucijami in posamezniki po svetu poziva k nujnemu ukrepanju proti orodjem za razgaljanje: tehnologiji, namenjeni ustvarjanju neprivoljenih golih in zlorabljajočih podob, ki nesorazmerno pogosto ciljajo otroke in ženske.
Ta orodja spodbujajo spolno izkoriščanje, izsiljevanje in povzročajo škodo, vendar so še vedno široko dostopna brez posledic.
Skupaj z organizacijami Child Helpline International, INHOPE, Internet Watch Foundation, NCMEC, Offlimits, Safe Online in We Protect Global Alliance pozivamo k:
- globalnemu priznanju nepopravljive škode, ki jo ta orodja povzročajo,
- odgovornosti tehnoloških podjetij za uvedbo zaščit »varnost že v zasnovi« (safety-by-design),
- zakonski prepovedi razvoja, distribucije in uporabe aplikacij ter funkcionalnosti za razgaljanje.
Tjaša Bertoncelj, strokovna vodja NM TOM telefon: »Na TOM telefonu® se vse pogosteje srečujemo z zgodbami otrok in mladostnikov, ki doživljajo spletno nadlegovanje, grožnje in izsiljevanje. Orodja za “razgaljanje” takšne zlorabe še olajšajo. Iz povsem običajne fotografije lahko v trenutku nastane ponižujoča in zlorabljajoča podoba. Za otroka to ni “šala” ali “filter”, ampak resna kršitev dostojanstva, občutka varnosti in pogosto tudi duševnega zdravja. Zato podpiramo jasen ukrep: te funkcionalnosti nimajo nobenega legitimnega namena in morajo biti izrecno prepovedane, z učinkovitim nadzorom in odgovornostjo za razvijalce ter platforme. Dolžni smo ukrepati hitro in odločno, da zaščitimo otroke in mladostnike ter jim zagotovimo varen prostor tudi na spletu.«
Našim prizadevanjem in pozivu se pridružujejo tudi:
- Spletno oko
- MIPI – portal za promocijo medijske in informacijske pismenosti
- ZLRO – zavod za letovanje in rekreacijo otrok
- Društvo Ključ – center za boj proti trgovanju z ljudmi
- Društvo za nenasilno komunikacijo
- Varni na internetu
- Društvo SOS telefon
- Medobčinsko društvo prijateljev mladine Ajdovščina
- Arnes
- Telekom Slovenije
- Inštitut za kriminologijo pri Pravni fakulteti
Orodja za »nudificiranje« nimajo mesta v nobeni družbi, ki želi zaščititi svoje otroke. Naše sporočilo je jasno: ta funkcionalnost ne služi nobenemu dobremu namenu in bi morala biti izrecno in univerzalno nezakonita. Umetna inteligenca mora biti zaveznica otrok, ne grožnja. Da bi dosegli ta cilj, potrebujemo takojšnjo, globalno prepoved orodij za »nudificiranje«.
Orodja za »nudificiranje« uporabljajo umetno inteligenco za ustvarjanje golih podob iz oblečenih fotografij. Čeprav se praviloma oglašujejo za odrasle, se ta orodja pogosto zlorabljajo za ustvarjanje nenamerno oziroma brez soglasja »nudificiranih« podob ljudi, vse pogosteje pa se uporabljajo tudi za izdelavo nezakonitih podob otrok. Podjetja, razvijalci in posamezniki, ki jih ustvarjajo ali distribuirajo, morajo biti odgovorni ter se soočiti s pravnimi in kazenskimi posledicami.
Tehnologija, ki omogoča ustvarjanje golih in zlorabljajočih podob, ima prikrit in poguben vpliv na življenja otrok po vsem svetu. Podobe otrok, vključno s preživelimi spolne zlorabe otrok, se prirejajo v vedno bolj skrajne in zlorabljajoče oblike. »Deepfake« posnetki so danes tesno povezani s spolnim prisiljevanjem, izsiljevanjem in grožnjami. Zaskrbljujoča dostopnost teh orodij pomeni, da zlorabitelji fotografskih intimnih posnetkov sploh ne potrebujejo več; lahko jih umetno ustvarijo, množično, z zastrašujočo učinkovitostjo. Storilci, med njimi tudi mladi sami, te podobe že monetizirajo ter ustvarjajo nova zlorabljajoča »gospodarstva«.
Ta tehnologija ni le orodje, temveč nov kanal izkoriščanja, ki ženske in otroke, zlasti deklice, izpostavlja doslej neprimerljivemu tveganju. V nobeni družbi, ki ceni varnost in nedotakljivost otroštva, zanjo ni prostora.
V prizadevanju za dogovor o dostojanstvu in zaščiti najmlajših pozivamo vlado in zakonodajalce, naj nujno sprejmejo in uveljavijo regulacijo, ki bo prepovedala orodja za »nudificiranje« in zagotovila, da bodo povsod nedostopna.
To izjavo podpira 107 organizacij, institucij in individualnih strokovnjakov.
Prav tako pozivamo institucije, podjetja in državljane, da nemudoma ukrepajo za odpravo uporabe orodij za »nudificiranje« ter se zavežejo k naslednjemu:
- Prepoznajte, da orodja za »nudificiranje« povzročajo nepopravljivo škodo posameznikom ter omogočajo neopravičljivo zlorabo in izkoriščanje, zlasti žensk in otrok.
- Priznajte družbeno škodo, ki jo ta funkcionalnost povzroča, vključno z normalizacijo eksplicitnih vsebin in nasilja na podlagi spola ter erozijo zaupanja in varnosti.
- Zahtevajte odgovornost in inovacije: od tehnoloških podjetij pričakujte, da bodo varnost vgradila že v zasnovo (»safety by design«), pospešila razvoj in uvedbo učinkovitih zaščit ter zagotovila jasno transparentnost.
Če bomo te nevarnosti še naprej ignorirali, bomo razočarali otroke – in sebe. Ukrepati moramo zdaj. Stati moramo skupaj. Ustaviti moramo spolno zlorabo, ki jo omogoča umetna inteligenca, preden se še bolj razširi.
Naš poziv tehnološkim podjetjem, platformam in razvijalcem
- Uvesti varnost že v zasnovi (»safety-by-design«). Noben izdelek, model ali funkcija, ki lahko generira »nudificirane« deepfake vsebine, ne sme biti objavljena brez dokazanih zaščit.
- Zaznati in blokirati »nudificirane« vsebine otrok. Uvesti transparentne, robustne in zasebnost varujoče sisteme zaznavanja, vključno z medplatformnim »hashingom«, zaščitami na ravni modelov in proaktivnim skeniranjem.
- Prepovedati orodja za »nudificiranje« v svojih ekosistemih. Prepovedati jih v trgovinah z aplikacijami, storitvah gostovanja, vtičnikih, API-jih in integracijah tretjih oseb.
- Presekati zlorabljajočo ekonomijo. Odstraniti možnosti monetizacije, prijavljati storilce in sodelovati s partnerji v panogi pri prekinitvi plačilnih tokov.
- Zagotoviti transparentnost. Objavljati jasna poročila o zaznavanju, izvrševanju, zaščitah na ravni modelov ter o vseh zlorabah, povezanih z njihovimi orodji.



















