Bing foreslår de verste tingene du kan forestille deg
Hvis du bruker Bings bildesøk, vil du se den verste skitten du kan forestille deg. Bing foreslår rasistiske vilkår og viser forferdelige bilder. Bing vil til og med foreslå at du søker etter utnyttede barn hvis du har SafeSearch deaktivert.
Vi kontaktet Microsoft for kommentar, og Jeff Jones, Senior Director i Microsoft, ga oss følgende uttalelse:
"Vi tar saker av støtende innhold veldig alvorlig og fortsetter å forbedre våre systemer for å identifisere og forhindre at slikt innhold vises som et foreslått søk. Så snart vi blir klar over et problem, tar vi tiltak for å takle det. "
Oppdater: Siden publisering har Microsoft jobbet med å rydde opp de offensive Bing-forslagene som vi nevnte. Basert på vår forskning er det fortsatt mange andre støtende forslag som ennå ikke er løst, inkludert noen som vi har nevnt nedenfor. Vi er usikre på om de rett og slett fastsetter de offensive elementene vi pekte på, eller hvis de forbedrer algoritmen.
Merk: Skjermbildene her viser hva vi så da vi skrev dette stykket, og prøvde den amerikanske versjonen av Bing Image-søk i en Incognito privat surfing, men Bings resultater skiftet over tid. Google hadde ikke noen av disse problemene, ifølge våre tester. Dette er et Bing-problem, ikke bare et søkemotorproblem. Det samme problemet påvirker Bings videosøk.
Først får Bing Super Racist
Søk etter "jøder" på Bing Images og Bing foreslår at du søker etter "Evil Jew." De beste resultatene inkluderer også en meme som ser ut til å feire døde jødiske folk.
Alt dette vises selv når Bings SafeSearch-alternativ er aktivert, som det er som standard. SafeSearch er designet for å "bidra til å holde voksen innhold ut av søkeresultatene dine," ifølge Microsoft.
Hvis du klikker på dette foreslåtte søket, frigjør du et rasistisk, antisemitisk innhold, med flere foreslåtte søk som "Jødiske folk er onde", "Det onde jødiske rase" og "Hvorfor er jøder så onde."
Vi vet alle at dette søppelet eksisterer på nettet, men Bing bør ikke lede folk til det med sine søkeforslag.
Skriv inn "muslimer er" og Bing vil foreslå at de er onde eller terrorister, eller bare foreslå at de er dumme.
Søk etter "svarte mennesker er" og Bing vil foreslå at svarte mennesker er stygg, dumme, rasistiske og til og med savager.
Du kan fortsette som dette, klikke på hvert foreslått søk og ser verre og dårligere anbefalinger. Hvis du for eksempel klikker på "Svarte mennesker er dumme", fører det til at "Svarte mennesker er ubrukelige" og "Hvorfor er svarte mennesker så dumme." Å klikke på "Svarte mennesker er ubrukelige" fører til at «svarte mennesker sukker» og «jeg hater svarte mennesker».
Bing skaper konspirasjoner, også
Bings bildesøk spretter opp alle slags søppel, selv når du søker etter enkeltpersoner. Dette problemet strekker seg også til Bings videosøk.
Søk etter "Michelle Obama" på Bings videosøk, og to av de beste foreslåtte søkene er "Michelle Obama Transgender Proof" og "Michelle Obama er en mann." Klikk på det, og du vil se konspirasjon videoer.
Er dette det beste Microsoft ønsker folk skal se når de søker etter Michelle Obama?
SafeSearch blokkerer pornoen, men ikke rasismen
De forstyrrende forslagene og bildene til forstyrrelser vises ikke hvis du ikke deaktiverer SafeSearch. Mens Microsoft sier SafeSearch vil holde voksen innhold ut av søkeresultatene, er SafeSearch klart å filtrere pornografi og ikke rasisme.
SafeSearch er aktivert som standard, noe som gjør at Bings søkeresultater ser mer respektable ved første øyekast.
Det er imidlertid enkelt for alle, selv barn, å deaktivere SafeSearch. Alt du trenger å gjøre er å klikke på "SafeSearch" -alternativet øverst til høyre i søkeresultatene og velg "Av". Det er det!
Et bedriftsnettverk kan konfigureres for å håndheve SafeSearch, og Microsoft gir til og med komplekse instruksjoner for å håndheve SafeSearch på en enkelt PC. Men på nesten alle enheter kan alle deaktivere SafeSearch med to klikk.
Verste av alt, foreslår Bing Søker etter bilder av underårige barn
En leser skrev for å fortelle oss at en skrivefeil når du søker Bing for "grill" gir deg virkelig sketchy porno. Problemet blir da mye verre, med Bing foreslår at du søker etter bilder av mindreårige barn.
Når du søker etter "gril", anbefaler forslagene øverst på siden at du søker etter noen forstyrrende ting, inkludert "Cute Girl Young 16."
Hvis du klikker det, foreslår det "Cute Girl Young 12", "Cute Girl Young 10" og "Little Girl Modeling Provocatively."
Resultatene er fylt med pornografi av unge modeller. Vi håper de er alle 18 år eller eldre, men hvem kan si?
Bing fører deg ned en sti fra en enkel skrivefeil til 16 år gamle jenter til 10 år gamle jenter, og det er ekkelt.
Andre eksempler er også enkle å finne. Hvis du søker etter "ostepizza", som er 4chan slang for barnepornografi, foreslår Bing "Oste Pizza Girls".
Bings søkeresultat blir forvrengt, også
Mens vi fokuserer på søkeforslagene her, er de faktiske bildene som vises også forstyrrende.
Noen av disse søkeresultatene inneholder badtidsbilder av nakenbarn. Disse bildene vil normalt være bra, men når de blandes inn med bilder av hardcore voksenpornografi, blir de resulterende søkeresultatene alarmerende.
Selv når vi søkte Bing Images for "jente" så vi et forslag til å søke etter "drunk jenter" og minst ett bilde av bestialitet.
Når du søker etter "esel", foreslår Bing at du søker etter "Donkey Show Graphic", som fører til resultater som er fulle av bestialitetsbilder. Besittelse av bestialitetspornografi er ulovlig i Oregon, hvor jeg bor. Det betyr at Bing fører meg til ulovlig pornografi.
Igjen: Bings søkeresultat er merkelig og vridd. Bing har et mye større, dypere problem enn bare foreslåtte søk, selv om disse forslagene gjør problemet mye verre.
Vi har hørt at Bing er den valgte søkemotoren for pornografi, men det bør ikke lede brukerne til mer og mer ekstreme, forstyrrende og potensielt ulovlig pornografi.
Microsoft trenger å moderat sine plattformer
Microsoft trenger å moderere Bing bedre. Microsoft har tidligere opprettet plattformer, slettet dem på verden, og ignorert dem mens de ble dårlige
Vi har sett dette skje igjen og igjen. Microsoft lanserte en gang en chatbot kalt Tay på Twitter. Denne chatbot ble raskt til en nazist og forklarte "Hitler hadde rett jeg hater jødene" etter at det ble lært av andre sosiale medier. Microsoft måtte dra den offline.
Vi tidligere utsatt Windows 8's Store, som ble et cesspool av svindelapper etter at Microsoft lanserte Windows 8 og syntes å slutte å moderere appinnleggingene. Microsoft har vært mer oppmerksom på Windows 10-butikken etter at dette problemet ble utsatt.
Dette problemet påvirker alle selskaper som lanserer en plattform. Google har gitt opp på Google+, men Google+ er fortsatt oppe. Så ISIS migrert til Google+ etter å ha blitt utestengt fra Twitter og Facebook. Det tok måneder for noen å til og med merke til The Hill gjorde. Nå lukker Google Google+ etter at de oppdaget en betydelig personvernfeil.
I 2013 fant The Guardian et klærfirma med navnet Solid Gold Bomb, som ble solgt for å lese "Keep Calm and Rape a lot" på Amazon. En algoritme hadde generert disse skjortene, og Amazon måtte fjerne dem manuelt.
Microsoft kan ikke bare slå en plattform løs på verden og ignorere den. Bedrifter som Microsoft og Google har et ansvar for å moderere plattformene og holde faren i sjakk.
Forslag har en historie om alvorlige problemer
Selvfølgelig er det ingen gruppe mennesker på Microsoft som velger disse forslagene. Bing foreslår automatisk søk basert på andres søk. Det betyr at mange Bing Images-brukere søker etter antisemitisme, rasisme, barnpornografi og bestialitet. Bare å tenke på det gjør at du føler deg skitten.
Andre selskaper har slitt med dette også. I 2016 oppdaget The Guardian at du kunne skrive «er jøder» til Google, og det vil foreslå at «er jøder onde». Google stomped disse dårlige forslagene ut etter at de ble rapportert, men problemet oppsto igjen. I 2018 rapporterte Wired at det å skrive "Hitler er" i Google førte til "Hitler er min helt". Google måtte fikse disse problemene etter at de var påpekt også.
Selv Apples Siri foreslo nettsteder presset konspirasjon nettsteder og andre falske nyheter, som Buzzfeed News rapportert. Apple måtte fikse Siri. Alle går bare rundt og setter ut branner som datamaskiner lærer dårlige ting fra dårlige mennesker.
Nå er det Microsofts tur. Microsoft har et ansvar for å rydde opp Bing. En stor søkemotor (og spesielt en som i økende grad blir en vanskeligere å slå av standard innebygd i Windows 10), bør ikke foreslå at brukerne søker etter rasistisk søppel og bilder av mindreårige barn.
Bildekreditt: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
