NICT、レーザーカオス由来の乱数を使って教科学習プロセスを高速化できることを実証 30
ストーリー by hylom
AIブームに乗っかってみました的案件か 部門より
AIブームに乗っかってみました的案件か 部門より
情報通信研究機構（NICT）が、半導体レーザー由来の光カオスを強化学習アルゴリズムに使用するための乱数源として使用できることを実証したと発表した（PC Watch）。
強化学習のアルゴリズムでは乱数を使用するものがあるが、高品質な疑似乱数を高速に生成することは難しいことが知られている。乱数を高速に生成する手法として、半導体レーザーに外部から光を注入するとランダムな振る舞いを示す状態（カオス）となることを利用するものがあるが（過去記事）、今回の研究ではこの手法を使って乱数を生成することで、コンピュータなどの疑似乱数生成器を使用する場合と比べて大幅に高速に教科学習プロセスを実行できることを確認できたとしている。
学習 (スコア:3)
（スルーしてもいいいけど、お約束で）
Re:学習 (スコア:1)
何の教科に対する効果が高いんですかねぇ。
小・中・高それぞれで傾向が異なりそう。
＃一応おや（ｒｙ
Re: (スコア:0)
何の教科に対する効果が高いんですかねぇ。
むしろいつ効果が高くなるのか
それが今日かうわなにをするやめr
ツェナーのノイズとか使えないのかな (スコア:0)
>半導体レーザー由来の光カオス
もっと安いカオス源はないものでしょうかね。
カオス乱数の良さというのはどう評価するのでしょうか。
カオスにもランクがあるのかな?
また、数値化はどうしてるのでしょう ADCに突っ込むのかな
# おしえて偉い人!
Re:ツェナーのノイズとか使えないのかな (スコア:2)
昔は、宇宙線の測定ってのは聞いたことがあるんですが、今日日だと多分速度が圧倒的に足らないですね。
良質なのも重要だが、速度も重要。
Re: (スコア:0)
ああ、元記事見て何となくわかった気がする
・白色性が求められるが、そのスペクトルが十分高いところまで伸びている
・生成源ハードウェア部分で2値化スレッショルドを高速動的に変えられる
辺りがキモのように思えます。
Re: (スコア:0)
違うような。元の論文を斜め読みしましたが、レーザーカオスはOrnstein-Uhlenbeck法による疑似カオス乱数や準乱数よりも負の自己相関が強く、強化学習に向くという話らしいです。ホワイトノイズは関係ありません。
# モンテカルロ法に使われる準乱数の質(?)が低いことは既に知られていて、
# 3DCGレンダリングの方面だと最近ブルーノイズと準乱数の組み合わせが流行り始めていますが、
# それじゃダメなのかな?
Re: (スコア:0)
おっと読み間違えていました。
「疑似カオス乱数や準乱数よりも」の「準乱数」は「準周期信号」の誤りです。
準周期信号は良く知らないので、色々勘違いしているかも。
Re: (スコア:0)
カオスじゃないけど
電気ノイズ等つこた既に実用中の乱数生成器を100個200個並列すればいいんじゃないかな
CPU各コアの周りにぐるっと置いて熱源緩衝地帯を兼ねるとかさ
Re: (スコア:0)
ツェナー降伏だと出力ひくいんでショットキーバリアのノイズを使うという
のは聞いたことがある
宇宙線由来だと宇宙線そのものの変動が事前予測できなかったり
ショットキーノイズも含め熱雑音ベースのものは恒温槽に入れる
元素崩壊はだんだん数が変わるんで時折校正が必要
教科学習プロセスを高速化 (スコア:0)
小学校を4年で卒業できるとか
強化学習とか関係ないやん (スコア:0)
高速高品質な乱数生成法ができたという話で、モンテカルロ法使うアルゴリズム全般に適用できる話でしょ。
しかし、カオスってのは完全な乱数ではないわけで、このケースがどういう式で表されるのか知らないけど、
アトラクターが結果に影響を与えるということはないんかね。
Re: (スコア:0)
カオスを用いた乱数発生のアイデアは昔からあったが、まだ生き残ってるものってあるのかね？
今回のレーザーカオスも乱数としての性質の評価の話が抜けているが....
自己相関の説明にいたっては理解不能
「負の自己相関」の値が大きいということは、すなわち擬似乱数としての性質が悪い（隣接したサンプル間の相関がある）ということになるし、こんな説明だったらただちに批判を受けることが分かって書いてるんだろうか？
Re: (スコア:0)
>擬似乱数としての性質が悪い（隣接したサンプル間の相関がある）
よくわかりませんが、ピンクノイズとかもそれはそれで有用なのでは。
Re: (スコア:0)
いや、むしろ強化学習（というか２つのスロットマシンから儲かるマシーンを探す問題）に応用してみたというのが肝のようだ。
レーザーでカオスって話はもとからある話のようで、彼らが新たに考え出したわけではないみたい。つまりこの研究からスロットマシンを差し引いたら何も残らないという代物。出版先はScientific reports。金さえ出せば無条件に出る雑誌、というわけでもないだろうが？
> 本実験では、レーザーカオスを毎秒最大1000億個でサンプリングし、データ処理はオフラインで実装しています。
> 事前知識ゼロの状態から約 1 ナノ秒（10億分の1秒、1 ns
Re: (スコア:0)
いや、レーザーカオスを高速高品質乱数発生器として使ったというところが肝なんでしょ。
Re: (スコア:0)
レーザーでカオスで乱数発生はすでに知られている話で、それ自体は肝にはならない。
出てくる乱数を使ってなにか具体的な問題を議論しないと新たな研究にならないわけで、それで彼らが選んだのがスロットマシンの選択問題。それにさらにAIがらみの今風の言葉をくっつけて何かのミスリードを誘おうとしているようにも思える（中身はニューラルネットとかには全く関係がない話なのだが） ただ、実際にやってることはいままでサイコロ（あるいは計算機の乱数）でやってたことをレーザーのサンプリング値に置き換えただけなわけで、それ以上のイノベーションがあるわけで
Re: (スコア:0)
そもそも乱数の生成を計算時間に含める必要はあるのだろうか。
乱数は解こうとしている問題とは独立に存在するものだ。
例えば、放射性同位元素の崩壊タイミングなど、完全に無秩序と考えられている乱数発生源などを使って、
あらかじめ時間をかけて集めた質の良い乱数の膨大なデータベースから、
必要になる度に１つずつ読みだしゃいいじゃんね。
何かの設計で円周率が必要になる度に、必要精度の円周率を計算しているような違和感だ。
Re: (スコア:0)
ハードSFの種にできそう。
リアルタイムに生成したレーザーカオス乱数→学習が上手く進む
事前に作って用意した十分な量の{レーザーカオス乱数, じっくりことこと計算して作った擬似乱数, その他思いつく限りの乱数}→何故か学習精度が上がらない
実は、学習過程に量子論的な不確定性から最適解を汲み上げる謎の仕組みのプロセスが混ざっているから、
学習を進めつつ随時、乱数を生成しないとダメで、それがデジタルコンピュータを、自我を持ったコンピュータに進化させる最後の1ピースだったとか。
あ、観測者の意識とか意思へ原因を持っていくのも定番か。
意識というものには、自らの望む波動関数の収束を引っ張り寄せるという謎の性質が備わっているけど、その力は実に弱い。
事前に乱数を纏めて用意するような作業に影響を及ぼすことはできないけど、
学習が進むごとに生成される量子乱数には毎回ごくごく弱い影響を与えていて、
それらが膨大に積み重なることで、結果に観測可能な影響を及ぼすに至っている、とか。
Re: (スコア:0)
量子論ではすでに「隠れた変数」仮説は否定されてますやん。
Re: (スコア:0)
将来ニューロチップを開発する場合、集積度を高めていく方法と超高速化して疑似的にネットワークを構築するのかって選択がありますが、これは後者に属するものなのでしょう。
ニューラルネットは何の相関があるかはっきりとわからないものを突っ込んで何らかの相関を見出したりといった利用もされるのであれば、何も使う乱数が白色である必要もないだろうって所が面白かったです。
関連する話題としてがありますが、こちらでもカオス的な挙動と学習効率や正解率の関係が出てきます。 [srad.jp]
個々のニューロンがどんな役割を果たしているのかは不明でも、カオス的な影響によってネットワークが部分的に性格付けされていくのでしょか。
Re: (スコア:0)
この研究は「学習」という言葉が入っているが、ニューラルネットワークとは全然関係ない話だよ。
謎の組織NICT (スコア:0)
いや、NTPやってるとこって知識しかないもので...
Re:謎の組織NICT (スコア:2)
NTPのためにもセシウム原子時計を運用しています。
この手の計測はお手の物かと。
それいったら産総研もなかなか (スコア:0)
いろいろな研究所が合併した歴史があるので対象が雑多(広範ともいう)になってるような
Re: (スコア:0)
つぎはNICTと産総研の合併では
# ないない
## あるある?
Re: (スコア:0)
NICT [wikipedia.org] は総務省所管、産総研 [wikipedia.org] は経済産業省所管。縦割り行政で、互いの官僚が既得権益を守るので、合併はあり得ない。
Re: (スコア:0)
文部科学省の宇宙科学研究所 (ISAS)と旧科学技術庁の宇宙開発事業団 (NASDA) と旧総理府の航空宇宙技術研究所 (NAL)が
合併しているのですが、例外ですかそうですか。
Re: (スコア:0)
まさしく例外な気がする。
#根拠はない
Re: (スコア:0)
小金井の敷地の地下になんか隠してそうなタイトルにしないで下さい。
謎の古代文明の遺跡くらいなら許しますが。