Instagram sper vēl vienu soli savā virzienā vecāku uzraudzības rīki un digitālā kaitējuma novēršanu nepilngadīgo vidū. Platforma, kas pieder uzņēmumam Meta, ir paziņojusi, ka tā sāks informēt vecākus, ja konstatēs, ka viņu pusaudži īsā laika periodā atkārtoti meklē ar pašnāvību vai paškaitējumu saistītus terminus.
Šīs izmaiņas nenozīmē nekritiskas piekļuves atvēršanu visam, ko jaunieši dara lietotnē, bet gan aktivizēšanu. ļoti specifiska brīdinājuma zīme kad šāda veida sensitīvās meklēšanas notiek pastāvīga aktivitāte. Ideja ir tāda, ka ģimenes var laikus iejaukties, sniedzot informāciju un profesionālu atbalstu, nevis šie riska faktori paliek apslēpti bērna mobilā tālruņa ekrānā.
Kā darbosies jaunais pašnāvnieku meklēšanas brīdinājums?
Sociālais tīkls uzstāj, ka tas nebūs paziņojums par atsevišķu vaicājumu, bet gan par atkārtošanās īsā laika periodāTikai tad, ja sistēma konstatēs vairākus secīgus mēģinājumus meklēt izteicienus, kas veicina pašnāvību, paškaitējumu vai liek domāt par nodomu nodarīt sev pāri, tiks aktivizēts brīdinājums vecākiem vai aizbildņiem.
Lai definētu šo aktivācijas punktu, Meta apgalvo, ka ir analizējis pusaudžu meklēšanas modeļi un ir sadarbojušies ar speciālistiem no savas Pašnāvību un paškaitējuma padomdevēju grupas. Ar viņu palīdzību viņi ir noteikuši slieksni, kas prasa vairākas meklēšanas īsā laika periodā, lai izvairītos no triviāliem brīdinājumiem, kas samazina rīka lietderību.
Turpmākajās nedēļās gan vecāki, gan jaunieši, kuri jau izmanto uzraudzību, lietotnē saņems iepriekšēju paziņojumu, kurā būs paskaidrots, ka tas notiek. jauna brīdinājumu funkcija Tas tiks ieviests. Ja sistēma konstatēs riskantu rīcību, tiks nosūtīts paziņojums.
Meklēšanas, kas var izraisīt brīdinājumu, ietver vienkāršus terminus, piemēram, “pašnāvība"Vai"paškaitējumsFrāzes, kas mudina uz paškaitējumu, vai apgalvojumi, kas liek domāt, ka pusaudzis varētu apsvērt paškaitējuma nodarīšanu. Runa nav tikai par atsevišķiem vārdiem, bet gan par izteicieniem, kas, kopumā ņemot, norāda uz iespējama emocionālas ievainojamības situācija.
Pēc brīdinājuma izdošanas tas sasniegs vecākus, kas reģistrēti vecāku uzraudzībā, izmantojot dažādus kanālus: e-pasts, īsziņas, WhatsApp ziņojumi Turklāt tas tiks parādīts kā paziņojums lietotnē. Pieskaroties tam, tiks atvērts pilnekrāna ziņojums ar skaidru notikušā skaidrojumu un saitēm uz specializētiem resursiem.
Ko redzēs vecāki un kādi resursi viņiem būs pieejami?
Ziņojums, ko saņems pieaugušie, norādīs, ka viņu aprūpē esošais pusaudzis ir mēģinājis atkārtoti meklējot saturu, kas saistīts ar pašnāvību vai paškaitējumu īsā intervālā. Tas neparādīs pilnīgu darbību vēsturi, bet skaidri parādīs, ka šāda veida vaicājumiem ir bijusi noteikta tendence.
Kopā ar šo informāciju Instagram piedāvās tiešu piekļuvi Materiāls izstrādāts sadarbībā ar garīgās veselības un bērnu drošības ekspertiemIzstrādāts, lai palīdzētu uzsākt sensitīvas sarunas bez pārdramatizācijas, bet nemazinot iespējamos riskus, mērķis ir sniegt vecākiem praktiskus norādījumus par to, ko jautāt, kā klausīties un kādus pakalpojumus saņemt, ja viņi uzskata, ka ir jāveic turpmākas darbības.
Meta atzīst, ka šāda brīdinājuma saņemšana var būt īsts šoks, un atzīst, ka tas var būt satraucoši jebkurai ģimeneiPat ja tā, uzņēmums apgalvo, ka ir lietderīgāk iegūt šo informāciju agrīnā stadijā, nevis atklāt potenciālu krīzi, kad tā jau ir saasinājusies. Viņu vārdiem sakot, runa ir par to, lai pieaugušajiem sniegtu "nepieciešamos rīkus, lai iejauktos", ja viņu bērna meklējumi tiešsaistē liecina, ka viņam nepieciešams atbalsts.
Uzņēmums arī uzsver, ka paziņojumi tiks nosūtīti tikai tiem, kas tos būs aktivizējuši. vecāku uzraudzības funkcijasCitiem vārdiem sakot, tiek saglabāts zināms līdzsvars starp privātumu un aizsardzību: šos signālus varēs redzēt ne tikai jebkurš pieaugušais, bet tikai tie, kuriem jau ir atļauja uzraudzīt nepilngadīgā kontu.
Turklāt Meta norāda, ka turpinās pārskatīt sistēmas darbību praksē, uzklausot ģimeņu un ekspertu organizāciju atsauksmes, lai nepieciešamības gadījumā pielāgotu aktivizācijas slieksni, lai brīdinājumi nekļūtu par pastāvīgu troksni, kas galu galā tiek ignorēts.
Esošie aizsardzības līdzekļi: rezultātu bloķēšana un palīdzības līnijas
Jaunie vecāku brīdinājumi papildina pasākumu kopumu, kas Instagram jau bija ieviests, lai samazināt pusaudžu pakļaušanu iedarbībai kaitīgam saturam. Pašlaik, ja nepilngadīgā kontā tiek meklēti termini, kas ir nepārprotami saistīti ar pašnāvību vai paškaitējumu, platforma bloķē rezultātus un tā vietā parāda saites uz palīdzības dienestiem un specializētām organizācijām.
Tas nozīmē, ka pusaudži neredz ierakstu vai profilu sarakstus, kas varētu slavināt vai veicināt pašdestruktīvu uzvedību. Tā vietā viņiem tiek piedāvāta iespēja sazināties ar psiholoģiskā atbalsta pakalpojumi vai lai piekļūtu uzticamai informācijai par garīgo veselību. Pat ja meklējumi vispārīgāk ir saistīti ar emocionālām tēmām, bet tieši nepieminot pašnāvību, lietotne var novirzīt uz konkrētiem resursiem.
Attiecībā uz publicēto saturu Meta apgalvo stingra politika pret pašnāvības un paškaitējuma veicināšanuUzņēmums ļauj lietotājiem runāt par savu pieredzi un grūtībāmTomēr šāda veida ieraksti tiek slēpti no pusaudžiem, pat ja viņi seko personai, kas tos kopīgo, ja tie tiek uzskatīti par potenciāli provokatīviem vai nedrošiem nepilngadīgajiem.
Instagram arī norāda, ka situācijās, kad tie konstatē tiešus draudus lietotāja fiziskajai drošībai, tie var... sazinieties ar neatliekamās palīdzības dienestiem vietējie iedzīvotāji. Šāda veida intervences, kas tiek veiktas piesardzīgi un katrā gadījumā atsevišķi, ir daļa no viņu protokola, saskaroties ar nopietniem fiziska kaitējuma draudiem.
Ieviešot ģimenes brīdinājumus, uzņēmums vēlas nodrošināt, lai brīdinājumi neaprobežotos tikai ar digitālo vidi. Ideja ir apvienot riska noteikšanas tehnoloģiju ar vecāku spēju... pavadīt un uzraudzīt kas notiek ārpus ekrāna.
Kur tie tiks laisti klajā vispirms un kad tie varētu ierasties Spānijā un Eiropā?
Saskaņā ar Meta teikto, šīs funkcijas sākotnējā ieviešana notiks Amerikas Savienotās Valstis, Apvienotā Karaliste, Austrālija un KanādaŠajos tirgos paziņojumi tiks sūtīti nākamās nedēļas laikā ģimenēm, kuras jau izmanto vecāku kontroles rīkus pakalpojumā Instagram.
Uzņēmums apgalvo, ka tā mērķis ir paplašināt rīku, lai citos reģionos visa gada garumāTas ietver tādas Eiropas valstis kā Spānija, lai gan konkrēts laika grafiks vēl nav sniegts. Pakāpeniskā paplašināšanās daļēji ir saistīta ar nepieciešamību pielāgot funkciju dažādiem normatīvajiem regulējumiem un juridiskajiem kontekstiem attiecībā uz datu aizsardzību un nepilngadīgajiem.
Eiropā palaišana būs pakļauta tādiem noteikumiem kā Vispārīgā datu aizsardzības regula (RGPD) un jaunā Digitālo pakalpojumu likuma (DSA) prasības, kas paredz, ka lielām platformām ir jāpamato un detalizēti jādokumentē savas ieteikumu, moderācijas un aizsardzības sistēmas neaizsargātiem lietotājiem.
Spānija, kas pēdējos gados ir pastiprinājusi debates par nepilngadīgo mobilo tālruņu un sociālo tīklu lietošanu, paredzams, ka koncentrēsies uz to pārvaldību. sensitīvie brīdinājumi: kas piekļūst informācijai, kā tā tiek glabāta, cik ilgi un kādas ir pusaudžu garantijas attiecībā uz viņu privātumu.
Jebkurā gadījumā Meta paziņojums saskan ar pieaugošo spiedienu no Eiropas valdību un bērnu organizāciju puses, lai lieli tīkli uzņemtos atbildību. lielāka atbildība par jauniešu garīgo veselībunegaidot, kamēr varas iestādes noteiks stingrākus ierobežojumus.
Trausls līdzsvars: aizsardzība, privātums un “taisnīgi” paziņojumi
Viens no punktiem, ko uzņēmums visvairāk uzsver, ir meklēšana pēc “pareizais līdzsvars” starp brīdinājumu un nepamatotas trauksmes neizraisīšanuJa sistēma aktivizētu paziņojumus par jebkuru neskaidru terminu vai neregulārām meklēšanām, vecāki varētu justies apmulsuši un zaudēt pārliecību par rīka lietderību.
Lai no tā izvairītos, Meta paskaidro, ka ir izvēlējusies slieksni, kas prasa vairākas meklēšanas īsā laika periodāPat riskējot, ka dažos gadījumos var tikt nosūtīts brīdinājums, kas patiesībā neatspoguļo nopietnu situāciju, vairāki uzņēmuma konsultētie eksperti uzskata, ka labāk ir ievērot piesardzību un sniegt informāciju, ja vien tiek piedāvāti atbilstoši resursi un brīdinājums netiek pasniegts kā diagnoze.
Tādas organizācijas kā Parent Zone vai Cyberbullying Research Center ir norādījušas, ka, ja pusaudzis aktīvi meklē informāciju par pašnāvību vai paškaitējumu, sniegt vecākiem skaidru priekšstatu Tas var visu mainīt. Runa nav par profesionāļu aizstāšanu, bet gan par to, lai ģimenēm dotu iespēju uzdot jautājumus, piedāvāt atbalstu un, ja nepieciešams, meklēt specializētu palīdzību.
Vienlaikus bažas par to, nepilngadīgo digitālā privātumsLai gan funkcija tiek aktivizēta tikai vecāku uzraudzībā, dažas grupas norāda, ka ir svarīgi jauniešiem skaidri izskaidrot, kāda veida informāciju var kopīgot ar vecākiem un kādam mērķim, lai viņiem nerastos sajūta, ka viņus izspiego bez iemesla.
Meta apgalvo, ka šī pieeja atbilst tās apņemšanās ievērot “dalītas atbildības modeli”: platforma piemēro filtrus un bloķējumus, algoritmi nosaka riska signālus, un ģimenes saņem rīkus iejaukšanās veikšanai, vienmēr ievērojot katras valsts noteikumu noteiktās robežas.
Nākamais solis: brīdinājumi par sarunām ar Meta mākslīgo intelektu
Papildus meklējumiem uzņēmums ir arī paziņojis, ka strādā pie līdzīgi brīdinājumi, kas saistīti ar mākslīgo intelektuArvien vairāk pusaudžu izmanto tērzēšanas robotprogrammatūras, lai runātu par jutīgām tēmām, un Meta vēlas nodrošināt, ka, ja tā mākslīgais intelekts atklāj noteiktas sarunas par pašnāvību vai paškaitējumu, arī vecāki var saņemt brīdinājumu.
Pēc uzņēmuma teiktā, tā mākslīgā intelekta modeļi jau ir apmācīti droši reaģēt uz nepilngadīgajiempiedāvājot atbalstošas ziņas, ieteikumus saziņai ar uzticamiem pieaugušajiem un dažos gadījumos saites uz profesionāliem resursiem. Papildu izstrādes līmenis ietvers ģimeņu informēšanu, ja tērzēšanas robotā pastāvīgi tiek runāts par paškaitējumu.
Plāns ir ieviest šos jaunos paziņojumus par “noteiktām mākslīgā intelekta pieredzēm”. šī gada beigāsVispirms tirgos, kur jau ir ieviesta uzraudzība, un pēc tam pārējos. Tāpat kā meklēšanu gadījumā, paredzams, ka funkcija pakāpeniski tiks pielāgota vietējiem noteikumiem, īpaši Eiropas Savienībā.
Šī attīstība atspoguļo ainavas maiņu: nepilngadīgo aizsardzība vairs neaprobežojas tikai ar to, kas tiek publicēts un redzams tradicionālajā plūsmā, bet attiecas arī uz mijiedarbība ar automatizētām sistēmām spējīga risināt sarežģītas sarunas, kas rada bažas regulatoriem un bērnu organizācijām Eiropā un citos reģionos.
Meta izaicinājums būs pierādīt, ka šie jaunie brīdinājumi ne tikai pastāv uz papīra, bet arī tiek piemēroti stingri, pārredzami un ar pietiekamu ārēju uzraudzību, lai radītu uzticību vecāku, pedagogu un varas iestāžu vidū.
Instagram rīcība ir daļa no konteksta globāls spiediens uz sociālajiem medijiem lai stiprinātu bērnu un pusaudžu drošību, īpaši attiecībā uz garīgo veselību. Saistot riska noteikšanas tehnoloģiju ar tiešu ģimenes atbalstu, platformas mērķis ir pāriet no reaģējošas mērenības uz agrīnas profilakses modeli. Vēl nav zināms, kā tā tiks ieviesta Spānijā un pārējā Eiropā, taču virziens norāda uz scenāriju, kurā vecāki, skolas, profesionāļi un platformas arvien vairāk dalās atbildībā par mazāk naidīgas digitālās vides radīšanu jauniešiem.
