April Dream Project

株式会社Geek Guild、AIモデルを小型化する「キャッシュAI」を開発

小型言語モデルによる高速かつセキュアなAIの新たな時代の幕開け

このプレスリリースは、April Dreamプロジェクトに共感し、4月1日を夢があふれる日にしようとする事業者が、やがて叶えるために発信した夢です。

株式会社 Geek Guild

2024年4月1日 10時00分

テックブログ「LLMの小型化」　　URL： https://www.geek-guild.jp/blog/tech-blog/

株式会社 Geek Guild（本社：京都市西京区御陵大原1番地36 代表取締役：尾藤美紀）は、AIの小型化を行うことに特化した企業です。我々は、ChatGPTを代表とする大規模言語モデル（LLM）を対象とした小型化およびハルシネーション対策ができる「キャッシュAI」の本格的リリースに向けて、４月１日(月)にプロジェクトを開始します。APIサービスの提供を目標とします。

当社は、4月1日を夢を発信する日にしようとするApril Dreamに賛同しています。このプレスリリースはGeek Guildの夢です。

■課題・背景

生成AIの活用が注目されていますが、ChatGPTのような大型言語モデルには課題があります。米国企業の調査では、セキュリティやプライバシーの懸念を理由に、企業・組織の75%が生成AIアプリケーションの禁止の検討、禁止の実施をしていると報告されています。(出所:Why Are So Many Organizations Banning ChatGPT?) さらに、LLMの学習コストが高いことも、導入障壁になっています。

そこで、モデル維持にかかる時間的・人的コストが少なく、企業のセキュリティ境界内で運用できる、小型言語モデルが、今後のトレンドとなります。小型言語モデルは、大型言語モデルのように、すべてを実行するのではなく、狭い領域のタスクに対して最適化されるため、高速かつ正確になります。

■開発の想い

株式会社Geek Guildは、持続可能な超高齢化社会の構築をミッションとし、AIの小型化の研究開発に取り組んできました。当社はみんなが快適で質の高い生活を送ることができるよう、AI技術を社会実装することを目指しています。

■技術の特徴

＊AIモデルの小型化

「キャッシュAI」はAIモデルを小型化し、処理時間を短縮することで、AI開発と運用にかかるサーバーコストを1/10に削減することを目指しています。特に、生成AIや言語モデルの小型化が重要視されており、製品サービス化に向けて取り組んでいます。

＊ハルシネーションの防止

生成AIの導入に関しては、「信頼に関連する問題」が経営層の4人中5人に影響を与えていることが大手外資ITベンダーの調査から明らかになりました。

ハルシネーションの問題解決には、プロンプトの工夫や、外部データベースのベクトル検索などの技術手法が有効であり、RAG（Retrieval-augmented Generation）と呼ばれる手法が開発されています。Geek Guildは、独自の技術「キャッシュAI」を用いてハルシネーション問題の解決に取り組んでいます。