ワイ「機械学習による予測がこれです」上司「解釈を説明して」ワイ「え?」

1 : 2021/12/27(月) 07:54:47.61 ID:SW2R+RMKp
ワイ「人間では説明できないものを予測させるためのシステムですので説明はできません」

上司「説明できないなら使えないじゃないか、全部会議で説明しなきゃいけないんだから
ちゃんと辻褄の合う説明資料を作ってくれ」

2 : 2021/12/27(月) 07:54:57.31 ID:SW2R+RMKp
無理なんですがそれは
4 : 2021/12/27(月) 07:55:12.59 ID:T/GqfIFm0
これがあるんよな
DeepLも仕事で使えん
5 : 2021/12/27(月) 07:55:14.34 ID:SW2R+RMKp
ガチで無理や
6 : 2021/12/27(月) 07:55:39.61 ID:TSPUxgTqM
ソースコード全部読み上げたらええやん
7 : 2021/12/27(月) 07:55:46.50 ID:PDIue7p7a
説明すればええやんけ能無し
8 : 2021/12/27(月) 07:56:13.80 ID:HzN5dYLQ0
人に説明できないなら理解していないのと同じだ
9 : 2021/12/27(月) 07:56:19.85 ID:yBGnQpRH0
要はあってるかどうかがみんな不安なんやから、あってること説明すりゃええんとちゃう?
10 : 2021/12/27(月) 07:56:23.71 ID:SW2R+RMKp
説明することを想定したシステムじゃないから無理
16 : 2021/12/27(月) 07:57:43.14 ID:u5cCg1SH0
>>10
つまりロジックもクソもない全くの適当な予想かもしれないわけだな?
11 : 2021/12/27(月) 07:56:26.37 ID:Etz0V+u90
XAIさん…
12 : 2021/12/27(月) 07:56:38.22 ID:a93iI9Wm0
説明が求められるようなものにAI使うな
どうしても必要ならXAIで納得させろ
13 : 2021/12/27(月) 07:57:08.34 ID:UAYVh34V0
説明性と性能(表現力)はトレードオフ。
ちゃんと現場ニーズ確認してつくんなさい。
XAI系のアルゴリズム(SHAPとか)も勉強しろ
47 : 2021/12/27(月) 08:03:35.21 ID:54NODp7D0
>>13
なんかめっちゃ偉そうで草
14 : 2021/12/27(月) 07:57:35.78 ID:KLu61vUbM
いや予測に対して解釈をつけることは可能やろ
17 : 2021/12/27(月) 07:57:57.12 ID:SW2R+RMKp
>>14
無理
119 : 2021/12/27(月) 08:14:07.03 ID:6qjoSntBr
>>17
馬鹿
15 : 2021/12/27(月) 07:57:39.36 ID:HzN5dYLQ0
組織が得られる利益を言えよ
18 : 2021/12/27(月) 07:57:57.60 ID:IlXc9ydGa
教師あり学習なら予測結果の考察できるじゃん
21 : 2021/12/27(月) 07:58:33.68 ID:SW2R+RMKp
>>18
正確じゃない
29 : 2021/12/27(月) 08:00:01.92 ID:+/JRoRYq0
>>21
統計みたいなもんだから正確もクソもあるんか?
36 : 2021/12/27(月) 08:01:39.13 ID:OTMtod6S0
>>29
「みたいなもん」の範囲がデカすぎるやろ
統計はちゃんと人間が理解可能な体系やんけ
19 : 2021/12/27(月) 07:58:27.01 ID:QjqOTY750
上司や顧客の不安を取り除いてあげる介護作業が末端の仕事や
20 : 2021/12/27(月) 07:58:33.19 ID:OWQjDpjOp
AIの計算能力が人間をはるかに超えてるから説明無理なんだっけ
例えばIQ5000の人間が100メートル上から落ちてくる木の葉の落下地点を正確に予測しても
それをIQ100の人間でも理解できるように根拠を説明するのは難しい
126 : 2021/12/27(月) 08:14:53.55 ID:6qjoSntBr
>>20
違う
22 : 2021/12/27(月) 07:58:39.01 ID:Nd/TBWAbM
過去の実測値を予測して乖離を示さな納得せんやろ
予測精度まで上に説明する時は出さなアカン
23 : 2021/12/27(月) 07:58:41.62 ID:654lmutv0
真偽を判定する奴なんていないんやから適当こけばええやん
それが求められてるんやろ
24 : 2021/12/27(月) 07:59:12.25 ID:ETu2lSQ60
美女だったら「女の勘よ」で済ませられるのにな
25 : 2021/12/27(月) 07:59:22.54 ID:6Av/PeKd0
AIにだって予測には過程があるやろ
その過程をお前が分析して言葉にしろや
28 : 2021/12/27(月) 07:59:48.97 ID:SW2R+RMKp
>>25
そんなん無理やで
スーパーエンジニアでも無理
38 : 2021/12/27(月) 08:01:58.39 ID:7ozKYkNi0
>>28
じゃあスーパーエンジニアはどうやって過程をAIに叩き込ませてるんや
41 : 2021/12/27(月) 08:02:30.20 ID:SW2R+RMKp
>>38
アルゴリズムはこれですと提示することと予測結果の解釈を説明することは全然違うぞ
26 : 2021/12/27(月) 07:59:30.44 ID:wGPXJJke0
経営に説明するのに機械学習使うやつあかんやろ
特に長期的な予測は
27 : 2021/12/27(月) 07:59:31.02 ID:zTiAG37Y0
機械学習なら説明できるやろ
30 : 2021/12/27(月) 08:00:12.10 ID:7Pv3RYXP0
CNN型なら畳み込みは重みとの相互相関でmax関数の部分は相関が一番高いのを通すってステージの解釈は出来るけど全体的には難しい
31 : 2021/12/27(月) 08:00:16.45 ID:OTMtod6S0
まあ説明できないものが使えない場面は多すぎるからな
32 : 2021/12/27(月) 08:00:57.43 ID:TUMfU8PX0
社会人力足りんわ
正しい理論を説明しろって言われてるんじゃなくてその場を納得させるための材料をくれって言われてるんやで
33 : 2021/12/27(月) 08:01:05.82 ID:SW2R+RMKp
アルゴリズムはこれですと言うしかない
根拠の説明まではできない
34 : 2021/12/27(月) 08:01:11.49 ID:xXIBncAI0
学習データ自体は作った本人でもわからないブラックボックスやしな
老害共はAIに夢見過ぎや
35 : 2021/12/27(月) 08:01:31.44 ID:40sbrVn70
イッチが1番機械学習分かってなくて草
37 : 2021/12/27(月) 08:01:46.82 ID:dVgVdqqrd
お前なりの解釈延べればええやん
39 : 2021/12/27(月) 08:02:03.56 ID:9USrAFOj0
遺伝的アルゴリズムってやつ?
40 : 2021/12/27(月) 08:02:19.30 ID:rsi+L3VE0
何をどう報酬付けたか説明しろカス
42 : 2021/12/27(月) 08:02:38.03 ID:pj4qNezl0
そのAIの正しらしさを説明できな採用できんやろ
過去のデータとの整合率とかで説明しろよ
44 : 2021/12/27(月) 08:03:13.39 ID:SW2R+RMKp
>>42
そんなんでええんか
それ解釈の説明になってないと思うけど
68 : 2021/12/27(月) 08:06:45.08 ID:pj4qNezl0
>>44
ええよ
なんとなく結果とあってれば過程は適当でもええ
OPSがそうやろ
43 : 2021/12/27(月) 08:02:52.04 ID:OTMtod6S0
将棋程度なら「理屈はわからんけどAIがこう言ってます」で通用してもリアルの仕事はそんなので組織動かせんからな
45 : 2021/12/27(月) 08:03:15.09 ID:kgmjDvHn0
まあ機械学習とかソースコードからブラックボックス化されてるから無理やろ
46 : 2021/12/27(月) 08:03:19.90 ID:vjw+IjSzd
説明かんがえるAIも作ったらええやん
50 : 2021/12/27(月) 08:04:23.81 ID:SW2R+RMKp
>>46
そんなんドラえもん作るようなもんやで
48 : 2021/12/27(月) 08:03:39.37 ID:oK0KeWCq0
なんで説明性が求められるのに、それに適したモデル使ってへんの?
61 : 2021/12/27(月) 08:06:14.72 ID:bT7BHVyDa
>>48
これ
そもそも実務レベルで「AIがこう言ってるからこうなんです!説明はできません!」なんて通るわけないじゃん
ある程度の説明は求められるのわかってるんだから最初からそれができるモデル使えよ
AIや上司の問題じゃなくてイッチのミスだわ
49 : 2021/12/27(月) 08:04:05.85 ID:VhWH2d3EM
機械学習はブラックボックスやからな
無理って事をちゃんと説明したらええんちゃう?
51 : 2021/12/27(月) 08:04:45.77 ID:SW2R+RMKp
>>49
無理って言ってんのになんとかしろって言われるんだよなぁ
67 : 2021/12/27(月) 08:06:36.73 ID:o/H5Udi/0
>>51
その上司は有能なの?
69 : 2021/12/27(月) 08:06:58.09 ID:VhWH2d3EM
>>51
機械学習がなんなのか説明したか?
53 : 2021/12/27(月) 08:05:04.65 ID:OTMtod6S0
>>49
無理なら採用できんだけやろ
52 : 2021/12/27(月) 08:04:46.56 ID:zg1sQV0fx
AIの画像解析やってる会社の後輩が説明できない言ってるのみて
すごい高度なことやってるんやなと感心したわ
54 : 2021/12/27(月) 08:05:18.87 ID:gandQlROa
なんJのお墨付きと言えば解決や😳
55 : 2021/12/27(月) 08:05:19.93 ID:IlXc9ydGa
交差検証していい感じならええやろ
57 : 2021/12/27(月) 08:05:46.46 ID:SW2R+RMKp
>>55
それ精度の説明であって解釈の説明じゃないやん
56 : 2021/12/27(月) 08:05:40.42 ID:tUXC3xaL0
相手からの命令をそのまま受け取り適当な誤魔化しができないいっちAI説
59 : 2021/12/27(月) 08:06:02.11 ID:7eYrmepeM
説明つけられないから囲碁はAIが参考にならない
それに比べて将棋は分かりやすいからどんどん参考にされてるとかどうとか
60 : 2021/12/27(月) 08:06:03.13 ID:fhntMG/K0
機械学習がどういう物か説明してそれによって出たデータがこれっていうのが説明になるんちゃうの
70 : 2021/12/27(月) 08:06:58.75 ID:SW2R+RMKp
>>60
それシステムの説明やん
62 : 2021/12/27(月) 08:06:18.82 ID:gbeVlSNfr
XAIやぞ
63 : 2021/12/27(月) 08:06:22.68 ID:IB0xvp9T0
説明資料作ってくれるAIの登場が待たれる
64 : 2021/12/27(月) 08:06:23.15 ID:huKGU4nO0
importanceくらい出せよ
66 : 2021/12/27(月) 08:06:26.20 ID:oK0KeWCq0
CNNでもヒートマップ使ってAIがどこに注目してるか確認できるやろ
72 : 2021/12/27(月) 08:07:00.86 ID:q3XJPqTm0
機械に喋らせたほうが早そう
73 : 2021/12/27(月) 08:07:04.99 ID:C/fppbX00
ダメなら使う前段階で指摘されて使えねえよ
シャチか?
74 : 2021/12/27(月) 08:07:14.37 ID:7Pv3RYXP0
一応は既存の反復計算アルゴリズムのアンローリングって言う
解釈可能性を上げた方法あるけどドメイン知識に引っ張られるし汎用性低い
75 : 2021/12/27(月) 08:07:20.46 ID:gInd3IQPr
AIなんてただの統計解析ツールなんだからそのモデルを説明しなきゃ意味ないよね😅
77 : 2021/12/27(月) 08:07:31.47 ID:rsi+L3VE0
これ自分で組んでるわけじゃなくてテキトーにライブラリから持ってきてるんか
そら説明は無理やわ
無能部下に対する上司の期待が高すぎ
85 : 2021/12/27(月) 08:08:36.18 ID:SW2R+RMKp
>>77
ほとんどのシステムがそうやろ
ガチの研究者じゃないんだから
88 : 2021/12/27(月) 08:09:32.86 ID:qNgL8u8cr
>>85
ライブラリの妥当性検証くらいするよね😅
90 : 2021/12/27(月) 08:09:41.91 ID:q3XJPqTm0
>>85
上司からどんな依頼受けて機械学習の結果出したの?w
128 : 2021/12/27(月) 08:14:59.71 ID:7Pv3RYXP0
>>77
最近流行りの深層型だと層重ね過ぎて原理知ってパラメータ見ても意味わからんしだから解釈可能性上げる為に手法提案されとるけど
構造を縛って汎用性犠牲にしたりする
78 : 2021/12/27(月) 08:07:34.22 ID:HSJqYljI0
無能すぎて草
説明できない物を使ってるんか?
79 : 2021/12/27(月) 08:07:59.06 ID:C2ju1rVfd
こういうスレ良く立つけどこういう研究するときって最初に教授と認識合わせせんの?
86 : 2021/12/27(月) 08:08:58.81 ID:qNgL8u8cr
>>79
キータみたいな三流ブログの内容を裏採りもせずコピペして作った気になってるたけだよね😅
93 : 2021/12/27(月) 08:10:17.87 ID:ATr5Tj2Gd
>>79
大学エアプの高卒か認識合わせしても理解できなかったアスペかのどっちかやろ
80 : 2021/12/27(月) 08:08:00.45 ID:ZZbGTPYR0
多変量解析ならできるの(
81 : 2021/12/27(月) 08:08:14.16 ID:q3XJPqTm0
イッチがアホだから登場人物全員クソアホになってるな
82 : 2021/12/27(月) 08:08:16.44 ID:EBbt+uDQa
うちにも似た話あるから気にはなる
ブラックボックス化されたとこどう説明するんやろ
92 : 2021/12/27(月) 08:09:53.64 ID:SW2R+RMKp
>>82
原理的に無理
アルゴリズムの提示やそれっぽいテキトーな妄想の開陳以上の説明はできない
94 : 2021/12/27(月) 08:10:26.61 ID:87UiRHjb0
>>92
テキトーな妄想ならその予測使えないじゃん
96 : 2021/12/27(月) 08:10:34.32 ID:qNgL8u8cr
>>92
input部分は説明するべきだよね😅
107 : 2021/12/27(月) 08:11:53.72 ID:IW43v0D0M
>>92
テストデータ結果の傾向から、ある程度は推察はできるやろ
83 : 2021/12/27(月) 08:08:24.31 ID:mUYjY4v8d
じゃあそもそも導入すんなよ
84 : 2021/12/27(月) 08:08:28.34 ID:VM46QAlja
プログラム組んで結果の評価するとこまでは自分の仕事やろ
87 : 2021/12/27(月) 08:09:25.96 ID:FqU+0+X/0
学習ロジック説明するだけやろ
95 : 2021/12/27(月) 08:10:31.12 ID:SW2R+RMKp
>>87
それは解釈の説明とは言わない
103 : 2021/12/27(月) 08:11:31.41 ID:B68s3TpU0
>>95
ガチペかよ
104 : 2021/12/27(月) 08:11:33.24 ID:FqU+0+X/0
>>95
上司にそれは伝えたんか?お前の脳内で完結してるんじゃなく
89 : 2021/12/27(月) 08:09:37.20 ID:CNUiTyaN0
なんの予測かわからんがどんなデータを食わせてるかくらいはわかるんちゃうの
91 : 2021/12/27(月) 08:09:44.30 ID:edjnpksEM
特徴量と目的変数用意して型通りのガラガラポンしか出来ない典型的無能
データ分析向いてないよ
98 : 2021/12/27(月) 08:10:55.68 ID:5tYCWKikd
過去に起きた類似の事象を事後予測してさらっと一致率みたいなの出してる報告は素敵ぞ
99 : 2021/12/27(月) 08:11:09.48 ID:Dvyg/yCKx
納得させられへんイッチが無能なだけやん
100 : 2021/12/27(月) 08:11:20.22 ID:cru00adR0
CNNならCAM、transformerならattention rolloutで見れんじゃん
他は知らんが
101 : 2021/12/27(月) 08:11:25.80 ID:GEzUCUP60
ソースコードを一字一句読み上げろ
102 : 2021/12/27(月) 08:11:27.94 ID:8LWkUziI0
いや理屈説明できな意味ないやろ
139 : 2021/12/27(月) 08:16:57.77 ID:OeZcv39hd
>>102
むずくね?将棋AIの一手一手を説明しろなんて言われてもできるやつおんのか
105 : 2021/12/27(月) 08:11:41.02 ID:g7WUp+eF0
プログラムの中身説明出来ないとかただの無能やんけ
106 : 2021/12/27(月) 08:11:50.69 ID:mKTr3Wc70
因果関係がわかるものではないって正直に言え
109 : 2021/12/27(月) 08:12:21.40 ID:SW2R+RMKp
>>106
そうそう、ワイが言いたいのはそれそれ
108 : 2021/12/27(月) 08:12:15.57 ID:DtTApiBJr
こんなん許したら誰が作ったかもわからない謎ライブラリでロジック組み立ててAIがやりました!って言えちゃうやん
111 : 2021/12/27(月) 08:12:57.14 ID:SW2R+RMKp
>>108
ほとんどのAIがそうやで
112 : 2021/12/27(月) 08:13:23.83 ID:DtTApiBJr
>>111
それじゃ“ビジネス”にならないよね?
116 : 2021/12/27(月) 08:13:40.54 ID:SW2R+RMKp
>>112
皆テキトーこいてるんやろ
113 : 2021/12/27(月) 08:13:26.97 ID:q3XJPqTm0
>>111
ホントに働いてるの?
110 : 2021/12/27(月) 08:12:43.24 ID:TnTt+8DLM
こういう奴は大体データリークとかに引っかかって炎上案件作る
114 : 2021/12/27(月) 08:13:32.16 ID:5l6qlN8Y0
サイコロ猫に振らせてるのと変わらんからな
115 : 2021/12/27(月) 08:13:34.06 ID:ooBomS8V0
辻褄が合うレベルなら機械学習使うまでもないやろ
この上司なに考えとるんや
117 : 2021/12/27(月) 08:13:53.29 ID:W/ZcY2q50
必要なのは一般人に「わかった気にさせる」説明能力よな

コロナのウイルスとワクチンの原理とかもそうだけど

118 : 2021/12/27(月) 08:13:59.13 ID:CJSxEgXi0
上司が何でこの質問するか考えたことあるか?
上司も同じ説明を上にしなきゃいけないから理解したいんやで
上への説明の仕方を補足するだけでオッケー出るぞ
120 : 2021/12/27(月) 08:14:08.69 ID:FqU+0+X/0
世の中テキトーな妄想の陳列を誰かに話してもらいたい奴ばっかやぞ
121 : 2021/12/27(月) 08:14:18.23 ID:xy0oltGG0
ニューラルネットワークの仕組み説明しときゃいいやろ
123 : 2021/12/27(月) 08:14:40.16 ID:HHupF1Xf0
え、じゃあお前いらんやん

「俺の仕事はエンター押すだけです」って言い切っただけやんな

なんのためにお前存在するん?

130 : 2021/12/27(月) 08:15:10.51 ID:SW2R+RMKp
>>123
予測はした
因果関係の説明は誰にもできん
132 : 2021/12/27(月) 08:15:46.23 ID:W/ZcY2q50
>>130
そう言うことを聞いてんじゃねえんだわ
148 : 2021/12/27(月) 08:18:21.57 ID:sV+5u8lza
>>123

ガチで猿でもできる仕事やな
エンター押すように教えりゃええんやろ?

エンター押した後の責任も説明も何もないんだからこいつほんまにいらんよな

124 : 2021/12/27(月) 08:14:47.20 ID:rsi+L3VE0
機械学習の結果言うだけなら仕事のアウトプットにはならんで
そんなもんB3くらいの学生が初めて機械学習を勉強したときにやることやろ
125 : 2021/12/27(月) 08:14:50.58 ID:TrtL4clyM
将棋の評価点みたいに数字出るようにしたらええんちゃう
143 : 2021/12/27(月) 08:17:23.65 ID:26wJh5px0
>>125
あれも予測結果だけや
なんでその数値が出てるかっていう盤面の解析は人間がやってるんや
イッチはそれができない
127 : 2021/12/27(月) 08:14:55.61 ID:yxGlsLPka
そのAIの仕組みを教えろって事やないの?
129 : 2021/12/27(月) 08:15:09.50 ID:8Toyjur30
シャチ
133 : 2021/12/27(月) 08:15:56.55 ID:mUYjY4v8d
入力情報が信頼出来ないなら無意味やん
134 : 2021/12/27(月) 08:15:59.54 ID:t15qBQ0Nd
相談出来る先輩はおらんのかね
141 : 2021/12/27(月) 08:17:07.29 ID:SW2R+RMKp
>>134
こんなん先輩どころかテレンスタオでも無理やで
136 : 2021/12/27(月) 08:16:40.35 ID:Wx67eEXzd
明らかな誤出力があっても理由が説明できないから顧客から使用禁止に指定されたわ
137 : 2021/12/27(月) 08:16:43.08 ID:8s8y5IQAr
機械学習して提出するだけとか中学生でもできるやろ
そこからどう解釈できる解析をするかが仕事やろがい
138 : 2021/12/27(月) 08:16:55.47 ID:HG30C/Pq0
文系上司を持つと大変やな
140 : 2021/12/27(月) 08:17:01.51 ID:8mzCCAJg0
計算過程説明しないと教授に殺されるんやけどイッチってワイより無能なんか?
144 : 2021/12/27(月) 08:17:35.33 ID:SW2R+RMKp
>>140
計算過程説明するなんて一瞬でできるわ
解釈の説明は無理や
147 : 2021/12/27(月) 08:18:18.19 ID:q3XJPqTm0
>>144
12月の手取りと額面いくらやった?
153 : 2021/12/27(月) 08:18:51.40 ID:MkQNag+G0
>>144
パラメータのデータの貢献度が高いやつのデータの分布見れば考察もすぐ出ると思うが…
155 : 2021/12/27(月) 08:19:01.89 ID:8mzCCAJg0
>>144
パラメータとバイアスを見える化すればええんやないの?
142 : 2021/12/27(月) 08:17:23.64 ID:IW43v0D0M
今はautogluonあるからくっそ便利やで
145 : 2021/12/27(月) 08:17:37.83 ID:MkQNag+G0
機械学習なら
パラメータごとのデータをヒストグラムで表せばええやん
パラメータ全部見たくないんなら貢献度出すライブラリ使えばええ
修論かいてる時に使った手法ね
146 : 2021/12/27(月) 08:17:54.68 ID:jsxQQOEW0
ワイの知り合いAIやってるけど実際これでAI採用出来ないって見送る業種もあるらしいわ
150 : 2021/12/27(月) 08:18:23.64 ID:IW43v0D0M
>>146
生命に関わるやつだとそうやな、自動運転とか
149 : 2021/12/27(月) 08:18:22.48 ID:XgWmRKII0
赤ちゃんが泣いてるときって
普通の人はお腹空いたとかトイレとか予想するんだわ
イッチは喋らないで泣いてるだけだから何が起きてるかわかりませんって言ってるのと同じなんだわ
154 : 2021/12/27(月) 08:18:59.07 ID:8zhCD01/0
学習ロジック説明して実際に入れた値について説明したらどうだろう
156 : 2021/12/27(月) 08:19:06.61 ID:0zPmqdT9p
上司「辻褄の合うように理屈立った説明資料作ってね」
カス「機械学習の結果こうなりました!」

そら上司も怒るよ

コメント

タイトルとURLをコピーしました