1:まとめさん2018/10/11(木) 21:11:01.58 ID:U7GRIvuu0.net

米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきたＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

9:まとめさん2018/10/11(木) 21:11:51.24 ID:ZpsH3BM8M.net

AIの合理的判断が言うならしょうがないね

15:まとめさん2018/10/11(木) 21:12:16.74 ID:waAxZY6Gr.net

なんJ見てしまったんやろなあ

16:まとめさん2018/10/11(木) 21:12:18.75 ID:aSjrhk270.net

それってつまり女性差別は合理的な選択ってことやん

627:まとめさん2018/10/11(木) 21:41:12.49 ID:Rr+qcIhL0.net

>>16
マジレスすると過去の採用データを学習させてるから、AIは過去の人事の男尊女卑の精神を受け継いどるんやで

25:まとめさん2018/10/11(木) 21:12:38.42 ID:rCGNBhkqM.net

AI「まんこは劣等！黒人はゴリラ！」


これもうなんJ民やろ

28:まとめさん2018/10/11(木) 21:12:41.42 ID:UczoNkzZr.net

KIBITかな

32:まとめさん2018/10/11(木) 21:12:54.46 ID:zEASeIcG0.net

AIってヒトラー信じたこともあったし差別主義になりやすいな

90:まとめさん2018/10/11(木) 21:15:18.53 ID:OpoIznLXK.net

>>32
黒人ゴリラ問題も解決できなかったしな

102:まとめさん2018/10/11(木) 21:16:00.11 ID:qm3s5td90.net

>>32
合理性ってのはつまるところより優れたものだけを選り分けるってことだからね
差別主義の権化みたいなもんだよ

37:まとめさん2018/10/11(木) 21:12:57.96 ID:L+mag0BXr.net

それほんまに欠陥か？

38:まとめさん2018/10/11(木) 21:12:58.13 ID:lNAzOm8S0.net

女性の何がいけないんや？

84:まとめさん2018/10/11(木) 21:15:09.20 ID:lTs+Ji/Rp.net

>>38
AIくんは自分で考えるわけじゃなくて
今まで人間がやってきたパターンを踏襲するだけだから
今まで男の方が採用されてたからそうなっただけや

219:まとめさん2018/10/11(木) 21:22:55.95 ID:O+yvZQe90.net

>>38
体力だけでマイナスやし離職リスクも高いかりなあ

48:まとめさん2018/10/11(木) 21:13:35.71 ID:Rv938y8R0.net

https://headlines.yahoo.co.jp/hl?a=20170818-00000004-wordleaf-int
>「女性は生まれつき技術者に向いていない」と主張した差別的な文書を公開したグーグルの社員が解雇されるという騒ぎがありました。

シンギュラリティは既に起きていた可能性が微レ存…？

49:まとめさん2018/10/11(木) 21:13:36.05 ID:wUC1nPeG0.net

どっかの大学のアレと同じやん

60:まとめさん2018/10/11(木) 21:13:59.71 ID:fZwDMPWMd.net

＞技術職のほとんどが男性からの応募だったことで、
＞システムは男性を採用するのが好ましいと認識したのだ。

これシステム設計したやつアホすぎひん

101:まとめさん2018/10/11(木) 21:15:59.44 ID:SrwXccar0.net

>>60
AIってまだまだなんやねえ

63:まとめさん2018/10/11(木) 21:14:11.75 ID:IFp1XG5jM.net

恐らく合理的判断であって差別ではないやろ
性欲がない分人間より厳しいかもな

66:まとめさん2018/10/11(木) 21:14:17.58 ID:t/b07CeS0.net

感情論なしで判断したらそらそうなるわな

72:まとめさん2018/10/11(木) 21:14:36.72 ID:SJcH40EQ0.net

AI「ほならね自分でやってみろって話でしょ、私はそう言いたい」

75:まとめさん2018/10/11(木) 21:14:44.84 ID:YklTNOZVp.net

> アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の中立性が働かない事実を見つけ出してしまった。
これはコンピューターモデルに１０年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。

まぁ擁護するわけちゃうけど流石にAIがポンコツやったんでは？

119:まとめさん2018/10/11(木) 21:16:46.55 ID:Aw2SacAmd.net

>>75
ようは女性で有能なエンジニアの母数が少ないから男性選ぶべきって判断したってことか

80:まとめさん2018/10/11(木) 21:14:55.62 ID:qnKxYgZt0.net

AIが平等だという幻想はどこからくるんだろうな

91:まとめさん2018/10/11(木) 21:15:21.15 ID:Ve/CoVfj0.net

人間から仕事を奪おうとするAIの仕事を奪うまんさん最強すぎる

112:まとめさん2018/10/11(木) 21:16:33.81 ID:dCBDpuFCa.net

>>91
つまりまんさん最強ってことか…深い

115:まとめさん2018/10/11(木) 21:16:35.55 ID:gx5LipTj0.net

AIって前例踏襲主義者なんじゃ？

121:まとめさん2018/10/11(木) 21:16:55.17 ID:lTs+Ji/Rp.net

これ男女に差つけたくないなら、履歴書からman/womanの言葉を取り除いて学習&判定させればええだけなんやないの
運用やめることもないやろそんなん

164:まとめさん2018/10/11(木) 21:19:41.60 ID:506vMvz0a.net

諦めて北大に行けば
>>121
他にも潜在的な差別要因があるかもしれないやろ
女特有の言葉遣いとか人間が察知できないパターンもAIは認識できるかもしれない

173:まとめさん2018/10/11(木) 21:20:28.46 ID:YklTNOZVp.net

>>121
性別欄無しにしても他の公平性に関わるバグとか変な判断が無いとは言い切れんから全面的に止めるみたいやで

129:まとめさん2018/10/11(木) 21:17:28.35 ID:Df2uc7040.net

結局今のAIのほとんどはあらかじめいくつかのデータを学習してそれに近いやり方を真似るだけやからな
人間みたいに色々考えてるわけでもなく男が多いってデータ見て判断してるだけやぞ

142:まとめさん2018/10/11(木) 21:18:19.29 ID:RVdChQrp0.net

合理化ってそういう事やからしゃーない
判定基準から性別と人種無くして運用するしかないやろな

160:まとめさん2018/10/11(木) 21:19:26.86 ID:iFPH6oCfd.net

そもそも技術職に男性の応募が多いから男性を採用したってのは優しい嘘やろ
多分履歴書とその後のパフォーマンスあたりを変数として与えたんじゃないか？
その上で男女のパラメータは隠した
その結果として女性チェス部みたいな単語に反応するようになったんやろ
そういう単語があると優位にパフォーマンスが低いから

163:まとめさん2018/10/11(木) 21:19:30.38 ID:J85qceALd.net

まあこれは流石に機械学習の欠点ってだけやな

180:まとめさん2018/10/11(木) 21:20:51.50 ID:7gQ5XDS2a.net

人工知能が自らの学習によって「まーんｗｗｗ、不採用」てなるってこと？

210:まとめさん2018/10/11(木) 21:22:39.90 ID:r8BmkGHmH.net

>>180
今までの採用実績とその後の活躍を全部読み込ませて
傾向を割り出したら「まん社員より男の方が活躍してるやんけ！男採用やな」
ってなっただけやぞ

195:まとめさん2018/10/11(木) 21:21:51.54 ID:8xVhfzRAM.net

例えば保育士をAIが選んだら女が多くなるで
君ら学習データを考えろや

201:まとめさん2018/10/11(木) 21:22:18.35 ID:wGNX0Z+80.net

差別ってどういうことや
論理的に考えて必要ないと結論出しだけやろ

255:まとめさん2018/10/11(木) 21:24:32.85 ID:6G7NEwss0.net

>>201
違うで
過去のデータを分析したところ
「エンジニア採用者のほとんどは男性→男性は有能だから加点、女性は減点」ってやってたんや
実際はそもそも応募者のほとんどが男なんやから性差関係なく採用者も男が多くなるのは当たり前やのに

281:まとめさん2018/10/11(木) 21:25:33.86 ID:r8BmkGHmH.net

>>255
それならそのデータの読ませ方が問題やな
というかそれやと今まで獲ってきた奴と似たような奴を沢山獲ろうとする結果になるだけや

223:まとめさん2018/10/11(木) 21:23:03.81 ID:9sx5F2wna.net

AI開発や応用の部署の話聞くと人間以上の判断はできないよねって声がちらほら聞こえる

252:まとめさん2018/10/11(木) 21:24:30.47 ID:r8BmkGHmH.net

>>223
そら今のＡＩって基本ビッグデータ処理やし
タダ単純に点数付けて傾向みたらこうなるんやなあっていうのは分かる
人間は大量のデータの正確な処理も点数化もかなり苦手

288:まとめさん2018/10/11(木) 21:25:51.48 ID:KXTMs1cM0.net

人間社会なんて不合理性をどれだけ許容するかをずっとやってきたようなもんなんやから、そら合理性の塊に判別させたらレイシストになるわ
極論若くて元気のある男だけ優遇して障害者老人マイノリティ切り捨てれば社会はガンガン発展するし経済も上向くやろからな

294:まとめさん2018/10/11(木) 21:26:10.03 ID:tDS1bBdI0.net

人工知能さん、人間より賢い

331:まとめさん2018/10/11(木) 21:27:37.66 ID:uZKb1RZCx.net

>>294
AI見てると人はしがらみに流される生き物なんやなと本当によく分かるよな

452:まとめさん2018/10/11(木) 21:33:13.95 ID:vCpOP0kb0.net

AI「真面目に仕事したらクビになったンゴぉ…」

528:まとめさん2018/10/11(木) 21:36:59.18 ID:ti+BMMkY0.net

>>452
忖度できないやつは疎まれるからね、しょうがないね

494:まとめさん2018/10/11(木) 21:35:04.39 ID:cChrFFoXa.net

AI導入する企業も増えとるやろうけど
結局人のチェック細かくせなあかんなら二度手間な気がする

545:まとめさん2018/10/11(木) 21:37:45.23 ID:wEe6PqWi0.net

都合悪くなると結局人間が介入すんのか
なら最初からやるなよ

568:まとめさん2018/10/11(木) 21:38:42.77 ID:B0hBg8USd.net

>>545
前提が間違ってるならしゃーない

559:まとめさん2018/10/11(木) 21:38:16.85 ID:FOx+JqOC0.net

AIがディープラーニングした結果wwwwwwww

女性差別が始まったンゴ…

622:まとめさん2018/10/11(木) 21:41:00.00 ID:4XX/ZZXGM.net

>>266
AIの初歩というか基本はそれなんやで
大学の学部でやるような教科書見れば
お前の想像してるAIとは全く異なるものをAIと読んでるのがわかるで

648:まとめさん2018/10/11(木) 21:42:15.78 ID:iPtqmJKG0.net

所詮人工知能も人からしか学べないということか

651:まとめさん2018/10/11(木) 21:42:22.03 ID:tu2S+wVRa.net

単に学習させた部門の履歴書が男だらけやったもんやからAIがほーん男がええんやなこの部門はって学習してしまっただけやろこれ

700:まとめさん2018/10/11(木) 21:44:27.84 ID:70YrZT1E0.net

そらフィッシャーランナウェイみたいなこと発生するにきまっとろうが
今回露骨だからわかりやすくて止められたけど
能力に関係ない外見上の特徴とかでポジティブフィードバック起こしてるのに誰も気づかんとかなったら怖いで

767:まとめさん2018/10/11(木) 21:47:51.88 ID:LjUvOQOTa.net

応募者 男100人 女30人
内定者 男30人 女10人

まん「女性が男の3分の1しか内定していないのは差別だ！男女平等にしろ！！」

これが公務員ではまかり通って内定者男20:女20とかになってる事実

862:まとめさん2018/10/11(木) 21:52:44.77 ID:J78Sh/Py0.net

>>767
これはがちであるからなぁ

781:まとめさん2018/10/11(木) 21:48:45.86 ID:7sQcPhzid.net

このAIも採用部門が開発しとるんやな
アメリカ進んでんなぁ

>キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の一部に組み込まれるとの見方を示した。

879:まとめさん2018/10/11(木) 21:53:27.35 ID:T3c2Rdbcp.net

どんな情報を得てAIがこういう判断下したのかがすげぇ気になるわ

958:まとめさん2018/10/11(木) 21:57:42.89 ID:00br4/ll0.net

今まで蓄積されたdataを元に女いらねってAIが合理的に判断したんだから受け入れろや

967:まとめさん2018/10/11(木) 21:58:17.32 ID:r8BmkGHmH.net

>>958
それでもアマゾンは女を採用すべきだと思うからこの結果なんやぞ

配信元：http://tomcat.2ch.sc/test/read.cgi/livejupiter/1539259861