Potrivit unui părinte care a postat capturi de ecran ale istoricului activității lui Alexa, asistentul vocal Amazon, când a fost rugat de un copil să ofere o provocare, a dat un exemplu de experiment mortal cu electricitatea, scoțând descrierea acestuia din contextul unui articol întâmplător. Coloana Echo a vorbit despre un experiment popular printre fanii TikTok cu utilizarea unei monede și a unui încărcător pentru un smartphone - numeroase incidente, răni și incendii după implementarea acestuia au fost raportate de diverse mass-media de mai multe ori. Aparent, dispozitivul a luat ideea acestei provocări dintr-un articol care a descris-o ca fiind periculoasă, citând un raport despre o presupusă provocare TikTok existentă.
Conform unei capturi de ecran făcute de Christine Livdahl, când i s-a cerut „să-mi arate o sarcină”, Echo a răspuns: „Iată ceva ce am găsit online”. Potrivit ourcommunitynow.com, sarcina este simplă: „introduceți încărcătorul telefonului la jumătatea distanței în priză, apoi atingeți pinii goali cu un ban”.
Într-o declarație pentru BBC, Amazon a confirmat comportamentul lui Alexa, spunând: „De îndată ce am aflat de această eroare, am luat măsuri imediate pentru a o remedia”. Livdahl a scris ieri pe Twitter că cererea de provocare nu mai funcționează. Utilizatorii de pe Web au testat și cererea cu Alexa și au obținut un rezultat similar.
OMFG Copilul meu de 10 ani tocmai i-a cerut lui Alexa de pe Echo o provocare și asta a spus ea. pozatwitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Amazon nu este singura companie care a întâmpinat probleme la analiza conținutului web. În octombrie, un utilizator a raportat că Google afișa sfaturi potențial periculoase într-unul dintre fragmentele sale dacă ați tastat „aveți o criză, ce să faceți” în Google - informațiile au fost preluate dintr-o secțiune a paginii web care descrie ce nu de făcut dacă cineva are o criză. Cu toate acestea, utilizatorii au raportat alte probleme similare, inclusiv un utilizator care a raportat că Google returnează rezultate pentru hipotensiune ortostatică atunci când caută hipertensiune ortostatică, iar un altul a postat o captură de ecran cu Google care arată sfaturi groaznice pentru a mângâia o persoană îndurerată, de tipul „Ma bucur că ești ești în regulă” sau „Nu fi trist! Înveselește-te!".
Rezumatul căutării Google vs pagina reală pozatwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Octombrie 16, 2021
Am văzut, de asemenea, avertismente cu privire la comportamentul periculos intensificat pentru a agrava problema decât era – la începutul acestei luni, unele districte școlare din SUA au fost închise după rapoarte despre amenințări cu împușcături pe TikTok. S-a dovedit că furtuna socială a fost cauzată în principal de faptul că oamenii vorbeau despre amenințări, mult mai mult decât despre amenințările care existau de fapt. În cazul lui Alexa, algoritmul a ales partea descriptivă a avertismentului și a amplificat-o fără contextul original. Deși părinții au fost acolo pentru a interveni imediat, este ușor de imaginat o situație în care nu este cazul și consecințele.
Livdahl a scris pe Twitter că a folosit ocazia pentru a „discuta despre siguranța pe internet cu copilul ei și să nu ai încredere în ceea ce citești fără cercetare și verificare”, ceea ce îți sugerăm să faci și tu.
Citeste si: