新研究:先進的な半導体技術がAIトレーニングを革新し性能向上と省エネを実現
TokyoPOSTECHと高麗大学の研究者たちは、半導体技術を向上させるために電気化学ランダムアクセスメモリ(ECRAM)を利用し、AI計算を強化しました。この進歩により、ジェネレーティブAIアプリケーションを含むAIの急速な発展に対応しきれない既存のデジタルハードウェア、例えばCPUやGPUの限界を克服することが可能となります。
以下に重要なポイントを示します。
- 研究チームには、キム・セユン教授、ノ・ギョンミ、クァク・ヒョンジョン、イ・ヒョンミン教授が含まれています。
- ECRAMデバイスは、イオンの移動を通じて電気伝導性を調整します。
- これらのデバイスは、効率的なデータの読み書きを可能にするために、3端子構造を使用しています。
- チームのECRAMデバイスは、以前の10×10アレイに比べて大幅に改善された64×64アレイで製造されました。
アナログハードウェアは、外部の電圧や電流を使用して半導体の抵抗を調整します。この方法は、クロスポイントアレイを介してAIのタスクを同時に処理します。しかし、アナログハードウェアは特定のタスクや連続データに優れている一方で、計算における学習や推論の多様なニーズに対応するのが難しいです。
研究チームは挑戦に立ち向かうためにECRAMデバイスを開発しました。これらのデバイスはイオン濃度を制御して電気伝導性を調節し、データの読み取りと書き込みに別々の経路を使用することで、比較的低い電力で動作します。チームは64×64のECRAMデバイスのアレイを作成し、これは報告されている中で最大のものです。この結果、優れた電気性能、信頼性の高いスイッチング、高い成功率、一貫性が実証されました。
研究者たちは効率的なハードウェア上で高度な学習手法であるティキタカ・アルゴリズムを使用しました。これにより、AIニューラルネットワークの学習精度が向上しました。彼らはハードウェアの学習方法が重みを安定させ、ニューラルネットワークに過度な負担をかけないことを発見しました。この発見は、技術を商業利用可能にするための重要なステップとなります。
この革新はAI計算を変える可能性があります。デジタルハードウェアには、電力とスケーラビリティの限界がありますが、ECRAMを基盤としたアナログソリューションは、AIにおいてより省エネでかつ拡張性があるかもしれません。低消費電力での操作を可能にする三端子構造は、大規模な応用に有望です。
金世栄教授は、大規模アレイと特殊なAIアルゴリズムが、現在のデジタル手法を性能とエネルギー効率の面で上回る可能性について議論しました。この研究は、より複雑で大規模なAIモデルを扱う新しいAIトレーニング技術の導入につながるかもしれません。
この研究は、韓国の組織、例えば、産業通商資源部や韓国産業技術振興院(KEIT)などから支援を受けています。大学と企業の連携は、AIのための半導体技術を向上させるための強力な取り組みを示しています。この進展は、AIが様々な分野で急速に拡大していることから、近い将来に重要な商業用途につながる可能性があります。
アナログハードウェアでECRAMデバイスを使用することにより、現在のデジタルハードウェアよりもAI計算を効率的かつスケーラブルにすることができます。研究チームの仕事は、AI技術のための素晴らしい未来の方向性を示しています。
この研究はこちらに掲載されています:
http://dx.doi.org/10.1126/sciadv.adl3350およびその公式引用 - 著者およびジャーナルを含む - は
Kyungmi Noh, Hyunjeong Kwak, Jeonghoon Son, Seungkun Kim, Minseong Um, Minil Kang, Doyoon Kim, Wonjae Ji, Junyong Lee, HwiJeong Jo, Jiyong Woo, Hyung-Min Lee, Seyoung Kim. Retention-aware zero-shifting technique for Tiki-Taka algorithm-based analog deep learning accelerator. Science Advances, 2024; 10 (24) DOI: 10.1126/sciadv.adl33502024年11月20日 · 13:04
AI安全対策会議:バイデン政策に逆行する専門家たち
2024年11月20日 · 12:56
AIが触覚を獲得:量子技術で表面を識別する新時代へ
2024年11月19日 · 20:02
モバイル時代のAI革命: CALDERAで進化する次世代小型言語モデル
この記事を共有