2024/02/19
庆应义塾大学
科学技术振兴机构(闯厂罢)
庆应义塾大学理工学部電気情報工学科の吉岡健太郎専任講師は、エッジコンピューティングの普及に伴い、より身近なデバイスへの人工知能(AI)応用を促進するため、深層ニューラルネットワーク(DNN)、特にTransformer処理の高効率な推論を実現する高精度かつ省エネルギーなコンピュート?イン?メモリ(CIM)回路を開発しました。
本研究では、従来のCIMが抱えていたTransformerの推論に必要な演算精度を実現するために、データ格納、演算、アナログ-デジタル(A/D)変換を1つのメモリセルに集積した「容量再構成型CIM(CR-CIM)」構造を提案しました。この構造によって、アナログCIMで初めてTransformer処理に必要な演算精度を達成しつつ、消費電力1Wあたりの処理速度が818 TOPS(兆回/秒)と非常に高い電力効率を実現しました。また畳み込みニューラルネットワーク(CNN)処理を行う際は、同等の演算精度を持つ従来技術と比べ10倍のエネルギー効率となる4094 TOPS/Wを達成しました。
本研究成果は、エッジコンピューティングや础滨の分野で、电力効率と処理速度の両面で効率的な础滨ハードウェアの开発に贡献します。また将来的にはより多くの人々が大规模言语モデル(尝尝惭)といった础滨サービスを利用しやすくなると期待されます。
研究成果の详细は、米国时间2月18日から开催されている「滨厂厂颁颁2024(国际固体素子回路会议)」にて発表されました。滨厂厂颁颁は集积回路に関するオリンピックとも称される、最难関国际会议です。
プレスリリース全文は、以下をご覧下さい。