ブラックボックスを開けると

朝何を着るか決めることから夕食のメニューを選ぶまで、一日のあらゆる瞬間が私たちに選択肢を与えます。 些細な決断であっても、人生を変えるような決断であっても、意思決定は人間の経験の基本的な要素です。

人が正しい選択をしたのかどうかを疑問視するのは常に簡単です。 後で結果が明らかになるまで判断できない場合もあります。 アビラル・シュリヴァスタヴァ教授（左）と博士候補者シャイル・デイブ（右）は、コンピューターが人工知能アルゴリズムを効率的に実行する方法を最適化する深層学習アクセラレーターを設計する際に重要な要素である設計空間探索を改善する研究に取り組んでいる。 写真提供：Erika Gronek/ASU 全体画像をダウンロード

ハードウェアおよびソフトウェア アーキテクチャのドメインでは、エンジニアは設計空間探索と呼ばれるテクノロジを使用して、コンピュータ アーキテクチャの設計プロセス中の選択肢を評価し、利用可能なオプションの中から最もパフォーマンスの高い設計を特定します。

設計空間探索テクノロジーは、速度、消費電力、精度などの望ましい結果に基づいて優先オプションを選択できます。 この技術は、物体や人間の認識ソフトウェアからハイレベルのマイクロエレクトロニクスに至るまで、さまざまなアプリケーションに適用できます。

ディープラーニングは人間の脳にヒントを得た人工知能の手法であり、コンピューターにデータの処理方法を教えます。 人工知能の深層学習アルゴリズムを効率的に実行することに特化したコンピューターである深層学習アクセラレータの設計は、広範なオプションのリストから選択するために設計空間の探索に依存しています。 これらのアクセラレータ設計の中には、評価すべき選択肢が何十億にも及ぶものがあるため、既存の最適化プロセスは、選択肢のほんの一部を評価する場合でも、完了するまでに数日から数週間かかる場合があります。

このプロセスは、深層学習アクセラレータが意思決定を行う際に依存するブラック ボックス探索によってさらに複雑になります。 ブラック ボックスの探索は、推論の詳細を明らかにすることなく情報を処理するように設計されています。

アリゾナ州立大学アイラ・A・フルトン工学部の一部であるコンピューティング拡張知能学部のコンピューター工学博士課程の博士課程候補者であるシャイル・デイブ氏は、アルゴリズムとシステムのフレームワークである説明可能な設計空間の探索を使ってこの問題を解決しようと取り組んでいる。これにより、研究者やプロセッサ設計者は、プロセスの速度を低下させるボトルネックを分析して軽減することで、ディープラーニング アクセラレータの設計の背後にある理由を理解できるようになります。

「通常、ハードウェアとソフトウェアの設計は、進化的アルゴリズムなどのブラック ボックス メカニズムや、強化学習やベイジアン最適化などの AI ベースのアプローチを通じて調査され、最適化されます」と Dave 氏は言います。 「これらのブラックボックスメカニズムは、設計構成の選択が設計全体の品質にどのように影響するかについての説明可能性と推論が欠如しているため、過度の試行を必要とします。」

Dave の研究では、アクセラレータの意思決定プロセスを合理化することで、設計手法がはるかに迅速に選択を行えるようになり、既存のモデルがこの情報を処理するのに数日または数週間かかるのに比べ、わずか数分しかかかりません。 その結果、設計最適化モデルはより小さく、より体系的になり、消費エネルギーが少なくなります。

Dave の研究は、検索効率を向上させるだけでなく、エンジニアが最適な結果を達成し、設計上の決定に関する洞察を得るのにも役立つ代替手段を提供します。 設計選択の背後にある理由と関連するボトルネックを理解することで、この方法はプロセスのすべてのステップで利用可能な設計ポイントを分析し、決定を下す前に良いオプションと悪いオプションを判断できます。この決定は、利用可能な最も有望なオプションを評価した後、テクノロジーによって意図的に行われます。 。