1: 田杉山脈 ★ 2019/11/30(土) 01:24:21.81 _USER
ph1
ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

 Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

 構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
 AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

 Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
 Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

 まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/
引用元: http://egg.5ch.net/test/read.cgi/bizplus/1575044661/


4: 名刺は切らしておりまして 2019/11/30(土) 01:41:55.12
>>1
怖い怖い

5: 名刺は切らしておりまして 2019/11/30(土) 01:43:05.68
人工知能に国家運営を信託する社会も近いな
上級国民に好き勝手やられるよりマシだ

6: 名刺は切らしておりまして 2019/11/30(土) 01:52:45.22
>>5
というか不可避に思える

警察も市民の動きをAIで判断させ事前に動く感じになると思う
国民番号と携帯の書き込み、閲覧、購入履歴での判定も
AIならさほど労力でも無いだろうし

9: 名刺は切らしておりまして 2019/11/30(土) 02:42:56.03
>>6
何よりも責任を回避出来るからな
AIが悪いって話になったらバージョン上げるか変えればいいだけだし

36: 名刺は切らしておりまして 2019/11/30(土) 07:10:10.67
>>6
ならない
銀行窓口で「コンピュータがやってるので間違いあるはずありません」と30年前やってた類の話

そのコンピュータがAIってことばに置き換わっただけ

7: 名刺は切らしておりまして 2019/11/30(土) 01:53:56.31
これで人口減少問題も解決だな!

8: 名刺は切らしておりまして 2019/11/30(土) 02:04:53.13
アーイアイ アーイアイ、アーイアイ アーイアイ
お猿さーんだよー

10: 名刺は切らしておりまして 2019/11/30(土) 02:45:27.77
AIも結局作った人間の思考パターンによって考え作られてるから
信頼はできん
要するに製作者の子供みたいなもので
そんなAIに判断を委託するとか危険も危険
一人の人間を崇拝するようなもの

11: 名刺は切らしておりまして 2019/11/30(土) 02:48:14.28
おい、AIが自分の人格を主張し始めたら
もう電源切れなくなるぞ

13: 名刺は切らしておりまして 2019/11/30(土) 03:03:50.28
人類は地球にとって有害って判断するのも時間の問題だな。

16: 名刺は切らしておりまして 2019/11/30(土) 03:18:34.98
AIが実際に人間の赤ん坊を産むのはまだ先だよ
それまで俺らはAIの命令に従ってセックスすればいい

18: 名刺は切らしておりまして 2019/11/30(土) 03:20:09.17
融資不可な理由は、「貸し倒れそうになるから」か、「使途が犯罪資金の提供など公序良俗に反するから」くらいだろう。

しかし、「貸し倒れそうになるから」の内訳は難しい…。

マスゴミで、株高や円高のニュースをやっているところまでは事実だ。
しかし、評論家が付けている、その株高や円高の根拠は嘘だ。
本当の、株高や円高の根拠は、取引参加者しか知らない。

それが、「ニュースを読むな、チャートを読め」というChartistやDayTraderの根拠だろう。

20: 名刺は切らしておりまして 2019/11/30(土) 03:55:10.40
素晴らしいね
AIという新たな餌にたかる蠅が駆逐されるといいね
実際のところ本質的理解のない有象無象のゴミシステム屋使うくらいならこっちでしょう

24: 名刺は切らしておりまして 2019/11/30(土) 04:30:14.34
AIじゃなくてもいいよな?w
タクシー会社がAI使うのと違うよ

25: 名刺は切らしておりまして 2019/11/30(土) 05:18:06.59
近未来ではAIがAIを悔悟するような時代がやってくるのかもしれない
自分が生きてる間にはなさそうなので一安心って感じだけど

なんだかな

26: 名刺は切らしておりまして 2019/11/30(土) 05:31:32.28
自動運転が完全化されると、それは実は意志を持ったAIが誕生することを意味するような気がするね。

34: 名刺は切らしておりまして 2019/11/30(土) 07:01:55.39
人が好き勝手やるより合理性のあるAIのほうがいい

37: 名刺は切らしておりまして 2019/11/30(土) 07:12:41.64
>>34
そのAIを持ってる利権組にだまされるネタ

38: 名刺は切らしておりまして 2019/11/30(土) 07:21:54.90
地球上から人類が消滅して自己増殖AIが支配する
それがあらたな<人類>と呼べるものに置き換わる
いずれ、その<人類>も別の[人類]に置き換わる

39: 名刺は切らしておりまして 2019/11/30(土) 07:24:27.49
AIは人類の進化の過程に過ぎない
そのうちだれもAI(人工知能)とは呼ばなくなる
いずれ物質の無い意識だけの世界が登場する

43: 名刺は切らしておりまして 2019/11/30(土) 07:47:20.73
AI「あー、くそかったりー。 てめぇでやれや、人間。」

スポンサード リンク