Artificiell intelligens är ingen lätt sak, och problem med det kan uppstå även i företag med lång erfarenhet av utveckling inom detta område. Det hände också med amason. Som rapporterats av nyhetsbyrån Reuters: "Företaget var tvungen att överge ett projekt baserat på AI som automatiskt valde ut personal. Hans huvudproblem är kvinnoförtryck."
I de flesta fall görs AI-träning genom att analysera historiska data. Deras vanliga problem är utförandet av uppgifter baserade på "förutfattade meningar". I det här fallet var "fördomen" ett betydande antal män som arbetade inom IT-området. Mjukvaran har utvecklat en algoritm som rankar frågeformulär som listar kvinnliga högskolor och som innehåller ordet "kvinnors" på de sista platserna i betyget.
Läs också: Amazon lanserar Echo Wall Clock med stöd för Alexa röstassistent
"Utvecklingsteamet försökte utveckla ett program som, av 100 inlämnade ansökningar, väljer ut de 5 bästa, enligt vissa kriterier." – rapporterar en icke namngiven källa.
Läs också: Amazon presenterar den uppdaterade Echo Show smarta högtalaren med en stor 10-tumsskärm
När företaget insåg att programmet gav resultat baserade på könsskillnader bestämde det sig för att justera AI-algoritmerna. Men projektets rykte undergrävdes. Dessutom fanns det inga garantier för att det inte fanns några andra "biases" i programmet. Därför, utan att tänka länge, bestämde sig Amazon för att täcka projektet till bättre tider.
Vi kan bara hoppas att projektet kommer att rättas till och kommer att fortsätta att glädja användarna med ärliga resultat.
Källa: Theverge
Kommentera uppropet