Enligt en förälder som postade skärmdumpar av Alexas aktivitetshistorik gav Amazons röstassistent, när ett barn bad om att erbjuda en utmaning, ett exempel på ett dödligt experiment med elektricitet, och tog dess beskrivning ur kontexten av en slumpmässig artikel. Echo-kolumnen talade om ett experiment som är populärt bland TikTok-fans med användning av ett mynt och en laddare för en smartphone - många incidenter, skador och bränder efter implementeringen rapporterades av olika medier mer än en gång. Uppenbarligen fick enheten idén till denna utmaning från en artikel som beskrev den som farlig, med hänvisning till en rapport om en påstådd existerande TikTok-utmaning.
Enligt en skärmdump tagen av Christine Livdahl, när jag blev ombedd att "visa mig en uppgift", svarade Echo: "Här är något jag hittade på nätet." Enligt ourcommunitynow.com är uppgiften enkel: "Sätt in telefonladdaren ungefär halvvägs in i uttaget, rör sedan vid de nakna stiften med en slant."
I ett uttalande till BBC bekräftade Amazon Alexas beteende och sa: "Så snart vi blev medvetna om detta fel vidtog vi omedelbara åtgärder för att åtgärda det." Livdahl twittrade i går att utmaningsförfrågan inte längre fungerade. Användare på webben testade också begäran med Alexa och fick ett liknande resultat.
OMFG Min 10-åring frågade precis Alexa på vårt Echo om en utmaning och det här är vad hon sa. bild.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Amazon är inte det enda företaget som har stött på problem vid analys av webbinnehåll. I oktober rapporterade en användare att Google visade potentiellt farliga råd i ett av sina utdrag om du skrev "du har ett anfall, vad du ska göra" i Google - informationen togs från en del av webbsidan som beskrev vad som inte att göra om någon får ett anfall. Användare har dock rapporterat andra liknande problem, inklusive en användare som rapporterade att Google returnerar resultat för ortostatisk hypotoni när de söker efter ortostatisk hypertoni, och en annan publicerade en skärmdump av Google som visar fruktansvärda råd för att trösta en sörjande person i stil med "Glad att du är okej" eller "Var inte ledsen! Muntra upp!".
Googles söksammanfattning kontra den faktiska sidan bild.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktober 16, 2021
Vi har också sett varningar om farligt beteende öka för att göra problemet större än det var - tidigare denna månad låstes vissa amerikanska skoldistrikt efter rapporter om skotthot på TikTok. Det visade sig att den sociala stormen främst orsakades av att man pratade om hoten, mycket mer än de hot som faktiskt fanns. I Alexas fall valde algoritmen den beskrivande delen av varningen och förstärkte den utan det ursprungliga sammanhanget. Även om föräldrarna var där för att ingripa omedelbart är det lätt att föreställa sig en situation där så inte är fallet och konsekvenserna.
Livdahl twittrade att hon använde tillfället att "diskutera internetsäkerhet med sitt barn och inte lita på det du läser utan forskning och verifiering", vilket vi föreslår att du också gör.
Läs också: