アマゾン、AIに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散

スポンサーリンク
話題の記事
話題の記事
人気の記事
スポンサーリンク
新着記事
新着記事
新着記事
1: 名無しさん@涙目です。(宮城県) [US] 2018/10/11(木) 22:30:59.40 ID:0urIMr6l0● BE:601381941-PLT(13121)
sssp://img.5ch.net/ico/anime_kuma01.gif
焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

[サンフランシスコ 10日 ロイター] – 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。

事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。

そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
応募者を明示し、われわれが彼らを採用する」と話した。

ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。

また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。

アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。

キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
一部に組み込まれるとの見方を示した。

採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

続きはソースで

ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

2: 名無しさん@涙目です。(アメリカ合衆国) [US] 2018/10/11(木) 22:32:28.31 ID:CRtP3rRu0
AIじゃなくて思想の方が欠陥なんだろ

3: 名無しさん@涙目です。(庭) [US] 2018/10/11(木) 22:32:28.54 ID:Leb9TZCe0
はい

4: 名無しさん@涙目です。(庭) [US] 2018/10/11(木) 22:34:20.91 ID:U9QtJ7Pd0
ままままーん

5: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:34:21.47 ID:xcjxOdDw0
そのAI優秀なのでは…

6: 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 22:35:17.99 ID:ZpmZl5dh0
>>5
優秀過ぎてもクビになるなんて人間そっくりだなwww

27: 名無しさん@涙目です。(北海道) [ニダ] 2018/10/11(木) 22:44:36.28 ID:qJjaDfFo0
>>6
中国のAIも共産党は糞って言ってクビになったしな

8: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:37:10.92 ID:YfRbVNeL0
>>5
フフw

12: 名無しさん@涙目です。(庭) [GB] 2018/10/11(木) 22:38:09.04 ID:PpvWlAk+0
>>5
コレ

17: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 22:40:43.48 ID:yZ8zPFJZ0
>>5
かなり

62: 名無しさん@涙目です。(山口県) [EU] 2018/10/11(木) 22:58:18.87 ID:fr+ik2rB0
>>5
真実を突いちゃったか…

7: 名無しさん@涙目です。(dion軍) [GB] 2018/10/11(木) 22:36:08.14 ID:nQx+PoX90
AIはまだダメだな中国共産党も否定したし

11: 名無しさん@涙目です。(catv?) [ニダ] 2018/10/11(木) 22:37:49.89 ID:TAZqiwez0
>>7
フフw

9: 名無しさん@涙目です。(SB-iPhone) [EU] 2018/10/11(木) 22:37:24.34 ID:9GCQBpu30
いや、それ、統計の正しい解釈結果だからさ、差別関係ないんだけどな。

100: 名無しさん@涙目です。(茸) [DE] 2018/10/11(木) 23:11:31.71 ID:7uENic0b0
>>9
元のデータに差別が含まれてたら、自動的に差別を再生産するって問題だろう

10: 名無しさん@涙目です。(新疆ウイグル自治区) [GB] 2018/10/11(木) 22:37:46.71 ID:9E8OX3RK0
もうなんか自然法則であってもポリコレに合致しなきゃボコられそうな勢いだなおい

13: 名無しさん@涙目です。(庭) [RU] 2018/10/11(木) 22:38:13.75 ID:0dTNouoZ0
スパイは加点対象だな

14: 名無しさん@涙目です。(埼玉県) [NO] 2018/10/11(木) 22:39:47.91 ID:691g7aid0
AIには建前の機能をつける必要があるな

30: 名無しさん@涙目です。(東京都) [KW] 2018/10/11(木) 22:45:42.60 ID:HPIPjB++0
>>14
それも学習すりゃいいんだがエンジニアが嫌うんだわw

15: 名無しさん@涙目です。(dion軍) [PL] 2018/10/11(木) 22:40:07.07 ID:+mg+89q90
正しいという欠陥

16: 名無しさん@涙目です。(チベット自治区) [MX] 2018/10/11(木) 22:40:26.02 ID:nQt2MdxT0
都合が悪いと欠陥認定

18: 名無しさん@涙目です。(広西チワン族自治区) [ES] 2018/10/11(木) 22:40:58.79 ID:K85pC/0yO
そら単なるデータの解析すりゃそうなるわ

19: 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 22:41:03.39 ID:oUi3y8Fc0
真実を答えたら粛清されたか…。

20: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:41:25.25 ID:5nhCQZLX0
空気を読むって高度なことにいきなり挑戦しないと存在を許されないんだから大変だな

21: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 22:42:01.90 ID:8mZFgXNn0
わろた

22: 名無しさん@涙目です。(庭) [JP] 2018/10/11(木) 22:42:19.91 ID:GfVmEMok0
食わせる学習用のデータが偏ってたんだろ

23: 名無しさん@涙目です。(チベット自治区) [ニダ] 2018/10/11(木) 22:42:34.74 ID:c6SxC+Fk0

28: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:44:51.69 ID:5nhCQZLX0
>>23
サムネイルで見ると女に見えなくもないが、拡大するといつものように犬がいくつか混ざってるような

31: 名無しさん@涙目です。(チベット自治区) [US] 2018/10/11(木) 22:45:55.70 ID:i4g2fOHd0
>>23
クッソグロい

33: 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 22:46:26.76 ID:DhPLF/Un0
>>23
パット見ブロンドの白人に見える

77: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 23:02:26.94 ID:lGeJbUPS0
>>23
サイレントヒルでみた

24: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:43:14.20 ID:bnN3Cy270
裸の王様かよ

25: 名無しさん@涙目です。(チベット自治区) [GB] 2018/10/11(木) 22:43:15.61 ID:7NQN2reW0
女の利点は9割容姿だからな
こういうのやらせたら低評価になるのは当たり前

26: 名無しさん@涙目です。(茸) [AT] 2018/10/11(木) 22:44:23.65 ID:eDJsyI720
昔ながらの分析やってる感じしかしない
AIって

29: 名無しさん@涙目です。(やわらか銀行) [GB] 2018/10/11(木) 22:45:09.05 ID:hYgMJFgj0
事実に基づいているのに、何が欠陥なんだ?

34: 名無しさん@涙目です。(空) [IN] 2018/10/11(木) 22:46:32.11 ID:Wt/e8UPl0
>>29
都合が悪い

32: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:46:19.43 ID:G8NP8+j90
公平になんて永遠に無理

35: 名無しさん@涙目です。(石川県) [CA] 2018/10/11(木) 22:46:40.42 ID:ZGEIxI6D0
いきなり差別かよ
AIッパリらしいな

36: 名無しさん@涙目です。(埼玉県) [ニダ] 2018/10/11(木) 22:46:46.41 ID:2/SIrEMJ0
つまり今までの女性チェス部部長は、アマゾン入社後ろくな働きをしなかったと言うことじゃん。

38: 名無しさん@涙目です。(宮城県) [TW] 2018/10/11(木) 22:48:23.32 ID:7foPQzhG0
ちょっと前に学者だかもこんな感じの本当のこと言ってボコボコにされてなかったか

39: 名無しさん@涙目です。(新疆ウイグル自治区) [US] 2018/10/11(木) 22:48:39.71 ID:cEmR4kfb0
女性が主な職種に同様の学習をさせてみて
男性差別が生じるかを検証してから解散するかどうか考えるといいのでは

58: 名無しさん@涙目です。(東京都) [ニダ] 2018/10/11(木) 22:56:41.14 ID:i2A51rvr0
>>39
看護師とかアパレルとか女性が割と活躍してる業種で検証してみてほしいね

40: 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 22:48:43.02 ID:niggjKym0
黒人とゴリラの区別はつくようになったんか?

49: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:51:28.66 ID:ZMHGgkQd0
>>40
お前はつくの?

41: 名無しさん@涙目です。(庭) [CN] 2018/10/11(木) 22:48:51.74 ID:0KR+Ctw90
AIは正直すぎるな

42: 名無しさん@涙目です。(庭) [SE] 2018/10/11(木) 22:49:48.36 ID:vCw00pTE0
そうやって女性に下駄を履かせようとする行為が既に主観的なんじゃないの?

43: 名無しさん@涙目です。(岡山県) [US] 2018/10/11(木) 22:50:10.68 ID:0bTWd3E80
出る杭は打たれるという奴か

44: 名無しさん@涙目です。(catv?) [JP] 2018/10/11(木) 22:50:46.19 ID:o2gRbZ5r0
AIには嘘も学習させないとな

45: 名無しさん@涙目です。(WiMAX) [KR] 2018/10/11(木) 22:50:50.37 ID:SFk13W970
そもそも人材選別自体が差別なんだからポリコレをねじ込むのは矛盾でしかない

46: 名無しさん@涙目です。(チベット自治区) [ZA] 2018/10/11(木) 22:50:52.93 ID:lKOWvRna0
男の場合、飛び抜けたバカと天才が混ざり合ってて、
女の場合はみんなそこそこ優秀だけど凡庸なんだろ。
これで特に優秀な人材を選ぶとなったら男ばかりになるに決まってる

47: 名無しさん@涙目です。(兵庫県) [ニダ] 2018/10/11(木) 22:50:57.29 ID:i5YPv/uX0
数百年後に故事になりそう

48: 名無しさん@涙目です。(四国地方) [KR] 2018/10/11(木) 22:51:18.40 ID:7RdxmXXV0
AIには建前というものが無いからな…

61: 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 22:58:07.34 ID:oUi3y8Fc0
>>48
家系や性別、人種なんて生まれ持った物が全てだからな。

本当は誰に生まれたかで先天的に能力の大半は決まってるけど、
それだと不満が出るからわざわざ入試なり面接なりをやって才能不足を極力努力不足という本人の責務に転嫁してるわけだ。

AIにはそんな人間の面倒臭い事情を理解出来ないから、つい残酷な真実を突きつけてしまうんだろう。

50: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:52:55.15 ID:70xIDWtC0
目的の与え方が稚拙
「優秀な・・・」ではなく「会社が有利になる・・・・」でやり直せ

51: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:53:01.30 ID:J0xDK7uz0
だからそのAIの判断が正しいんだよ

52: 名無しさん@涙目です。(宮崎県) [US] 2018/10/11(木) 22:53:07.82 ID:i11m6j7a0
AIは正直
ポリコレ棒という余計なものを学習しなかっただけ

53: 名無しさん@涙目です。(東京都) [RU] 2018/10/11(木) 22:54:17.68 ID:4vgAZgrL0
こんなことやってると、そのうちAIは正しい判断をしなくなる
うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる

54: 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 22:54:38.98 ID:hJtQJYTw0
AI間違ってないのに可哀相

55: 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 22:54:49.89 ID:niggjKym0
初めから欠陥と決め付けると、問題が解決しない

56: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:55:25.65 ID:70xIDWtC0
AIはまったく気使いってもんが不足してるなww

57: 名無しさん@涙目です。(埼玉県) [US] 2018/10/11(木) 22:55:57.63 ID:tH53+7s90
AIにリストラ候補をピックアップさせる→ジェフ・ベゾスがピックアップされる→開発チーム解散

59: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:56:53.94 ID:70xIDWtC0
新人社員でも「これまずいよ・・」って気づくことを
AIは出来ないんだよな

60: 名無しさん@涙目です。(大阪府) [CN] 2018/10/11(木) 22:58:00.30 ID:/woYJFey0
この結果をあえて発表したのは
そういうメッセージがあるんだろうなぁ

63: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:58:31.71 ID:jay1Fa5V0
そろそろ機械学習をAIと呼ぶのやめない?知能じゃねーだろ

71: 名無しさん@涙目です。(東京都) [KW] 2018/10/11(木) 23:01:23.40 ID:HPIPjB++0
>>63
その定義だと無から生み出すことが知能になってしまうぞ

64: 名無しさん@涙目です。(dion軍) [IN] 2018/10/11(木) 22:59:08.26 ID:tR4mQjcu0
ダメだよAI君忖度しないと
ディープラーニングが足りないよ

65: 名無しさん@涙目です。(神奈川県) [CA] 2018/10/11(木) 22:59:22.56 ID:Q0fXoVy50
それが公平に評価した結果じゃないのか
男女が同数になるような結果出してくる方が信用できないだろ

66: 名無しさん@涙目です。(dion軍) [JP] 2018/10/11(木) 23:00:04.11 ID:CJeU9/nA0
欠陥?

67: 名無しさん@涙目です。(茸) [GB] 2018/10/11(木) 23:00:35.42 ID:5NRCpYrq0
果たして本当に欠陥なんだろうか

68: 名無しさん@涙目です。(チベット自治区) [ニダ] 2018/10/11(木) 23:00:39.51 ID:oen35wc50
ポリコレプラグインをお使い下さい

69: 名無しさん@涙目です。(dion軍) [GB] 2018/10/11(木) 23:00:41.67 ID:dQfkrDgR0
やるまえから黒人が劣ってるとか判別されて問題になるのわかるやん

70: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 23:01:14.11 ID:70xIDWtC0
「自分が上司の立場に立って仕事をしなさい!
それが出来ない人はあるレベルからは上に上がれませんよ!」

72: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:01:27.45 ID:3sWdINj+0
正直なA Iだな

73: 名無しさん@涙目です。(福井県) [GB] 2018/10/11(木) 23:01:43.20 ID:PmIWWeYd0
このAIは優秀なようだ

74: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:01:44.95 ID:5iK+uwO30
やはり人間が意思決定する組織はだめだな

75: 名無しさん@涙目です。(愛媛県) [FR] 2018/10/11(木) 23:02:07.73 ID:isKoAPBv0
てか、何で性別条件入れたんだ?

76: 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 23:02:18.95 ID:niggjKym0
正しいと認識してるから、直しようがないからやめるんだな

78: 名無しさん@涙目です。(禿) [KR] 2018/10/11(木) 23:02:29.20 ID:hcBpbH/60
空気を読めないAIは認められなかったのだ

79: 名無しさん@涙目です。(dion軍) [DE] 2018/10/11(木) 23:02:41.04 ID:fhy24YNd0
AIにまで忖度させるのかよ…。下駄履かすのがさも当然のように横行する訳だな

80: 名無しさん@涙目です。(dion軍) [US] 2018/10/11(木) 23:02:41.79 ID:zdR97Osj0
開発チームを解散させた連中のAIの評価が知りたいな

84: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 23:04:07.57 ID:70xIDWtC0
>>80
「こいつにまかせたら会社の評判落ちて倒産しかねん!」

81: 名無しさん@涙目です。(千葉県) [JP] 2018/10/11(木) 23:02:42.00 ID:PMtRQtif0
受かったのを高得点にすると女は下がる?

82: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:02:44.97 ID:dIpPaKi90
性別条項を外した結果も出して比較しろよw

83: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 23:03:30.55 ID:RdQQT+Zq0
性差でなくて

85: 名無しさん@涙目です。(関東・甲信越) [US] 2018/10/11(木) 23:04:29.90 ID:FLq3ahePO
中世

86: 名無しさん@涙目です。(新疆ウイグル自治区) [US] 2018/10/11(木) 23:04:42.69 ID:IzzpagLa0
AIは嘘つかない

87: 名無しさん@涙目です。(禿) [KR] 2018/10/11(木) 23:04:51.82 ID:hcBpbH/60
ちみさぁ~社会に出るなら空気を読めるようにならないとねぇ~

88: 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 23:05:15.74 ID:Ej9eUomx0
学習データが悪かっただけだろ 性別をインプットから外せば良い

89: 名無しさん@涙目です。(禿) [KR] 2018/10/11(木) 23:05:37.93 ID:hcBpbH/60
正直さは罪

90: 名無しさん@涙目です。(庭) [ID] 2018/10/11(木) 23:06:06.99 ID:57Ug1CQZ0
学習させる内容が男性ばかりなら女性が低評価になるってやる前から分かるだろあほか

91: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:07:58.35 ID:s8MLDofE0
性別によって得手不得手な分野があるので互いに協力しながら欠点を補う社会
の方が正しいと思うな。 強引に性別差を無くそうとすると破綻するでしょ。

97: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 23:10:14.47 ID:yZ8zPFJZ0
>>91
それがほんとうの意味での差別のない平等な社会だよ
今のは絵空事を実現するために現実を歪めているだけだ

92: 名無しさん@涙目です。(茸) [US] 2018/10/11(木) 23:08:17.48 ID:M8OjEb7X0
歴史は繰り返す、また女性の地位下がるよ

93: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 23:08:18.63 ID:70xIDWtC0
朝ドラ「カーネーション」であったよ
「ほんとのことはゆうたらあかん!ゆうたらあかんのや!」

94: 名無しさん@涙目です。(dion軍) [US] 2018/10/11(木) 23:08:56.97 ID:NLa5X9Cq0
AIじゃなくて開発チームがバカ過ぎて解散したんだろ

95: 名無しさん@涙目です。(西日本) [CN] 2018/10/11(木) 23:09:06.27 ID:scN9Cqiu0
中国AI「共産党は無能」「中国の夢は米国への移住」
google AI「黒人はゴリラ」
amazon AI「女は劣ってる」

正直者は損をする
不都合な真実

96: 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 23:09:34.62 ID:nbn9Xe520
不具合じゃないだろ・・・
性別を取り払って機械的に評価したら女は低く評価されて当たり前

98: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 23:10:58.75 ID:70xIDWtC0
優秀かもしれないが
いつも厄介ごと持ち込む奴って
どこの職場にもいるよ

99: 名無しさん@涙目です。(家) [US] 2018/10/11(木) 23:11:22.69 ID:k+2dlInf0
ほんと草
ポリコレのために生きろ