それが最適解なのか!?チェスロボットが少年の指を折ってしまう(物理的な意味で) | ニコニコニュース


カラパイアの元の記事はこちらからご覧ください  チェス、囲碁、将棋など、もはやAIは頭脳スポーツにおいて人間を凌駕する存在となっており、誰もがAIロボットと対戦する機会も与えられている。  そんな中、モスクワで開催されたチェスの大会で、ロボットが対戦相手の7歳少年の指の骨を物理的に折るという事故が発生した。  少年が駒を動かそうとした瞬間、指をつかみそのままはなさないロボット。AIが導き出した最適解が「少年の指を折る」だったっとしたら怖すぎる。 【画像】 チェス大会で対戦相手の少年の指を折ったAIロボット  7月19日モスクワチェスの大会「Moscow Open 2022」があり、そのAIロボットはアームを中央から動かして3人と同時に対戦していた。  9歳以下のチェスプレイヤートップ30にランクインするほどの腕前を持つ7歳の少年は、自分の番となり、駒を取り、それを動かそうとした。  するとロボットは、少年の人差し指をつかんで強く握りしめた。  まわりにいたスタッフらはすぐに駆け付け、なんとか少年の指を引き抜いたものの、骨折は免れなかった。ロボットから解放された少年はその場から運び出された。

これが最適解と読んだのか?ロボットの暴走か?

 AIロボットの導き出した最適解(最善手)は、少年の指を折ること、だったとでもいうのだろうか?だとすれば恐ろしい。  ロシアチェス連盟のセルゲイ・ラザレフ会長は、事件後、ロシアタス通信にこう語った。
ロボットが大会中に子供の指を折りました。もちろんこれは悪いことですが、このロボットはこれまで何度も大会に参加していましたが、何の問題も起こしたことはありません
 同連盟のセルゲイ・スマギン副会長は、「ロボットは少年の駒を一つ取った後、飛びかかったように見えた」とBAZAに語った。 00

少年はロボットが指し終わるのを待たずに動いたことが原因か?

 大会の安全規則として、チェスプレーヤーは、ロボットが指し終わるまで待たなくてはならないのだが、この少年は、ロボットが動いている間に自分の手を指そうと動いてしまったため、ロボットの暴走につながったとも語っている。  更に「この子は安全規則に違反したようです。彼は自分の手を動かすときに、ロボットが指し終わるのを待つ必要があることに気づかなかった。これは極めて稀なケースで、私が記憶している限りでは初めてのことです」と付け加えた。 [もっと知りたい!→]人工知能(AI)が人類を驚愕させた10の瞬間  ロボットルールに違反した少年が許せなかった、とでもいうのだろうか? 2 その後指を骨折した少年には、治療が施され、指にギプスをはめた状態で最後まで大会に出場することができたという。  このロボットチェスプレイするためのプログラミングが施された、アームだけのシンプルなものである。それでも子供の指をへし折るくらいのことは可能だという事実も、いろいろ考えさせられるものがある。  人間がきちんと制御できれば良いが、頑丈で屈強なAIロボットが制御不能となったら、どうなってしまうのだろう?  ちなみに少年の指を折ったこのロボットが、どうなったのかは不明である。 References:Chess robot grabs and breaks finger of seven-year-old opponent | Chess | The Guardian / written by parumo  
画像・動画、SNSが見られない場合はこちら
それが最適解なのか!?チェスロボットが少年の指を折ってしまう(物理的な意味で)


(出典 news.nicovideo.jp)

日本紙魚 日本紙魚

ロボットアーム自体は工業用だからオーバースペックなんよね。電王手君みたいな安全機能の実装が待たれる。

nicouser nicouser

いいや慈悲深いぜ、指を切断しなかっただけな

けいむたんP けいむたんP

なるほど、指を折れれば次の手は打てないか、考えたなぁ・・・(違う

Morphina Morphina

能力:機械のような精密動作

ASFASFASFA ASFASFASFA

人殺しながら呑気にチェスかよ。ロボットにはコンセントすら繋がれていない。虐殺されたウクライナ人の怨念。

にゃんこ(`・ω・)ゝ にゃんこ(`・ω・)ゝ

2人減らして1対1で対局しようとしたのでは?

stray stray

やはり暴力はすべてを解決する

エンジェル野郎 エンジェル野郎

チェス  トォ!!(カラテ)

201609E 201609E

ただの事故やろ。記事書いたのは道具や機械による事故(産業ロボット含む)が普通にあるのを知らない温室育ちの人間か?(嫌味

機械ってほんとに人の力では全く動かないから、トラブルで体の一部でも固定された瞬間の恐怖は半端ない。

chiri chiri

協働ロボットは人体に触れたら停止するもの。これは囲いが必要な産業ロボットを協働ロボットのように使用した運営が起こした人災

咫郎 咫郎

勝てないから物理攻撃に転じるロボットの屑

acony acony

安楽死処分が妥当

000 000

産業用ロボットならそれくらいの力は当然あるだろう.工場の生産ライン並みの安全装置と非常停止ボタンくらいはつけとけよ.<ヨシ!

Line Line

スタープラチナかな?

YUKI02 YUKI02

これが後の人類対機械戦争の始まりであった

amino_acid amino_acid

重箱の隅突きますが…それ、(物理的な意味で)としては誤用に当たるのでは…物理的じゃない意味が存在してないよ…

ミラ ミラ

ジェイムズ・ホーガンの「未来の二つの顔」という小説の冒頭を思い出した。ネタバレはしないがこういうAIの危険性はSFの世界では既に何度も描かれている。