Тайният инструмент, който избира кандидати, които биха могли да бъдат част от компанията, показва много ясна пристрастност към жените

@abc_tecnologia Актуализирано: 15.10.2018 14: 10ч

уволнява

Свързани новини

Изкуственият интелект (AI) не е непобедим. И Amazon вече го е изпитал в собствените си меса. Въпреки че технологията обикновено е съюзник, не всички решения могат да зависят от нея. Поради тази причина, Amazon реши да направи без AI, който му помогна да наеме служители за явно сексистки.

Както съобщава Reuters, тайният инструмент, базиран на AI, с който Amazon избира кой може да бъде част от компанията показа много ясна пристрастност към жените.

Компанията на Джеф Безос започна през 2014 за изграждане на компютърни програми които прегледаха автобиографиите на кандидатите. Целта беше да се механизира търсенето и да се открият най-добрите таланти, признаха пред Ройтерс източници, близки до компанията.

Автоматизацията е от ключово значение за господството на Amazon в електронната търговия, независимо дали е в складовете или води до решения за ценообразуване. Инструментът за експериментално набиране на компанията използва AI, за да оцени кандидатите между една и пет звезди, тъй като продуктите, които потребителите купуват чрез уебсайта, се оценяват.

През 2015 г. компанията осъзна, че нейната нова система не отговаря на изискванията за кандидати за работни места за разработчици на софтуер и други технически позиции по неутрален по пол начин. Както обяснява Ройтерс, това е така AI беше обучен с резюмета за кандидати, събрани в продължение на десетилетие. Повечето от тях бяха мъже, така че AI беше обучен с a ясно мъжко господство. По този начин компютърната система на Amazon винаги е избирала мъже. Учебните програми, които включваха думата „жени“, бяха наказани, независимо от тяхното обучение.

Amazon редактира компютърните програми, за да ги направи неутрални, но не се получи. Кандидатите продължиха да бъдат класифицирани по дискриминационен начин, така че компанията в Сиатъл най-накрая разпусна AI в началото на 2017 г., защото ръководителите загубиха надежда, че проектът ще премине.

Компанията никога не е предлагала изявления относно тази сексистка практика, като винаги защитава, че е ангажирана с многообразието и равенството в работата.

Мъжки език

Експериментът на Amazon започна в решаващ момент за компанията. The машинно обучение набираше позиции в технологичния свят, а HR отделът на Amazon беше на път да започне серия наемания: От юни 2015 г. глобалната работна сила на компанията се утрои.

Изправен пред тази ситуация, той създава екип в Единбургския инженерен център, съставен от до дванадесет души. Целта им е била да разработят ИИ, който да може бързо да обходи мрежата и да забележи кандидати, които си струва да бъдат наети, казват пред Ройтерс източници, близки до компанията.

Създадената група 500 компютърни модела фокусирани върху конкретни работни функции и местоположения. Те научиха всеки да разпознава около 50 000 термина, които се появиха в автобиографиите на минали кандидати. Алгоритмите се научиха да придават малко значение на уменията, които бяха често срещани сред кандидатите. Технологията обаче благоприятства кандидатите, които се описват с глаголи, които обикновено се срещат по-често в автобиографиите на мъже инженери.

Съюзен инструмент

Според проучване от 2017 г. на фирмата за софтуер за таланти CareerBuilder, 55% от мениджърите на човешки ресурси в САЩ казват, че AI ще бъде редовна част от работата им през следващите пет години.

Работодателите могат да използват технологията, за да разширят мрежата за набиране на персонал и да намалят разчитането на субективните мнения на самите HR специалисти. Но компютърните учени като Нихар шах, който преподава машинно обучение в университета Карнеги Мелън, казва, че има още много работа. «Как да се гарантира, че алгоритъмът е справедлив, как да се гарантира, че той наистина може да се интерпретира и обясни, все още е доста далеч», Казва експертът.

Въпреки това има някои компании, които залагат да се възползват от AI за наемане. LinkedIn например предлага на компании, търсещи кандидати, алгоритмично класиране на кандидатите въз основа на това как техният профил съответства на офертата.

въпреки това, Джон джерсин, Вицепрезидентът на LinkedIn Talent Solutions гарантира, че услугата не замества традиционните специалисти по подбор на персонал. „Разбира се, не бива да се доверявате на която и да е система на ИИ сляпо и да вземате решение да наемете или не сами, защото технологията все още не е готова“, каза Жерсин пред Ройтерс.