DXの最前線。総力戦で研究開発に挑戦した結果見えてきたGPT利活用の秘密を全公開【第14回 Japan IT Week 秋セミナーレポート】

2023.11.30

Arsagaブログ

ChatGPTが登場し、早いもので約1年が経過しようとしています。GPTは多くの企業やエンジニアたちの研究意欲をかき立てました。それは、アルサーガパートナーズ（以下、アルサーガ）においても例外ではありません。私たちは社を挙げて、総力戦でGPTの研究開発に挑みました。

GPTが登場した当初から研究開発に取り組み、そこから何が見えたのかーーエンジニアとしてCTOも兼任する代表の小俣が、研究開発において浮かび上がってきたGPTの本質とその有益な活用方法について、率直に解説します。

※本記事は2023年10月27日に「第14回 Japan IT Week 【秋】AI・業務自動化展」in幕張メッセで開催されたイベントセミナー「DXの最前線総力戦で研究開発に挑戦した結果見えてきたGPT利活用の秘密を全公開」の内容をまとめ、記事化したものです。

小俣泰明（おまた・たいめい）
アルサーガパートナーズ株式会社　代表取締役社長 CEO/CTO

日本ヒューレット・パッカードやNTTコミュニケーションズなどの大手ITベンダーで技術職を担当、システム運用やネットワーク構築などのノウハウを習得。その後2009年にクルーズ株式会社に参画、同年6月に取締役に就任。翌年5月同社技術統括担当執行役員に就任。CTOとして大規模Webサービスの開発に携わる。2012年からITベンチャー企業を創業し、3年で180名規模の会社にする。2016年ITサービス戦略開発会社アルサーガパートナーズ株式会社を設立。座右の銘は「お金は大事。仕事は何でもやる。でも魂は売らない。」

公開するのは、3,000万円相当の価値がある研究結果

アルサーガパートナーズは、GPTが登場した当初から会社の総力をあげ、この半年間（セミナー時点）でさまざまなGPTソリューションの研究および開発に取り組みました。しかし、いきなり研究開発でやらかしてしまい、3,000万円規模のコストが吹っ飛んでしまいます。

これだけのコストがかかった理由は、生成AIの企業導入および運用方法の模索をはじめ、セキュリティやインフラにおける課題、費用対効果の洗い出しなど、世間的に生成AIそのものの活用方法がまだまだ分からない状態で、研究・調査を進めてきたからです。

紆余曲折を経て得た研究開発の結果、いわば3,000万円の価値がある情報を、今回は特別にこの場で全てをお話しようと思います。

LLM選定における資金力の規模の違い

GPTの開発を始めるにあたり、「どの大規模言語モデル（以下、LLM）を使い、開発を進めるべきか？」と多くの人が悩みます。いろいろなLLM関連技術が世の中にあるなかで、私たちがさまざまな情報を調査・研究した結果、GPTの開発は「OpenAI一択である」と結論付けました。

セキュリティの不安は解消する

セキュリティについてはご存じの方も多いかと思いますが、結論から言うと、OpenAI社のAPI通信を使えば、セキュリティの不安は解決します。OpenAI社は、同社のAPI経由で行われた通信については、入力された情報をOpenAIは解析しないと発表しています。しかし、ブラウザから社内情報をOpenAIに直接入力すると解析される恐れがあるため、注意が必要です。

もう1つ注目してほしいポイントがあります。OpenAIには、国内リージョンで提供しているクラウドがあることです。日本の大手企業の多くが、国内にデータセンターがあることを導入基準としています。これに関しては、OpenAIサービスを国内リージョンで提供するクラウドを選択することで解決できます。なお現時点（セミナー当時）では、Microsoft社のAzureのみ東日本リージョンで利用可能です。

情報を判別し「最適な場所からの適切な回答」が可能に

次にGPTの活用領域についてお話します。GPTには「Function Calling」という技術があります。この機能は、質問内容に対し、インターネットから最新の情報を持ってきた方がいいと判断した場合は、インターネットで情報を検索し、その結果を返すというものです。

例えば次の画像で示したように、「アルサーガのビジョンは？」という質問に対し、GPTは以下のような回答を返しています。しかし、この情報はインターネット上もしくはChatGPTのデータベースには入ってない内容です。

このように、インターネット上の内容から回答を返すのか、もしくは組織内のデータを元に回答をするのかは、Function Callingを使えば参照先の使い分けが可能です。既にアルサーガのサービスでは、Function Callingを用いた参照先の使い分けが行われています。

開発は、OpenAIに依存するのが正解

もう1つ面白い動きがあります。それは、OpenAIが日本市場や文化に配慮する様子が見られたことです。リリース当初、OpenAIは税務や法律など、国家資格が求められる領域に対しても完全な回答を行っていました。実際、OpenAIは完全な回答ができる能力を持っていると思います。

しかし、日本においてこれらの領域は、国家資格を有する人々が、法律で独占業務が許可された分野です。今、OpenAIではその方々へ配慮した動きが進んでいます。実際に完全な回答は避け、「詳細は税理士や弁護士などの専門家へ相談することをお勧めします」という表現に変わりました。OpenAIがしっかりと国内を見て、動いてくれているのが分かります。

ここまでの話から、「OpenAI技術に依存しまくっていいのか？」と思われる方もいるかもしれません。結論から申しますと、OpenAIに依存するのが正解です。実際にアルサーガでは、他のLLMを使い、OpenAI以外の技術研究も同時に進めていました。しかし、OpenAIに依存しないように生成AIを作ろうとすると、回答の精度が下がったのです。この結果を踏まえ、「プロダクトは、極力OpenAIに依存してつくるのが正解」という結論を私たちは導き出しました。

GPTができるのは「テンプレート文の作成」と「独自データの回答」

ここからは、「GPTは何ができるのか？」についてお話します。

GPTの活用方法は大きく2つに集約されます。
1.テンプレート文：プロンプトデザイン
2.独自データ回答：RAG（Retrieval Augmented Generation）技術

この2つがGPTの根幹技術ということだけを覚えていただければ、今日はよろしいかと思います。

ここからは、それぞれの活用方法について解説します。

1.プロンプトデザインについて

プロンプトデザインというのは、簡単に言うと質問文を作ることです。GPT活用では、「どのような質問をすれば正確な回答を導き出せるか」が重要です。そのためプロンプトデザインでは、必要な回答を導き出せるように適切な質問文を構成することが求められます。

プロンプトデザインを活用したよくあるサービス事例が、契約書や営業支援などの文書作成業務です。これらのサービスは、裏で記載内容に補足文を加えた文章がGPTに投げられ、その結果が綺麗な文章として表示されます。

アルサーガでは、「プロンプトを今すぐ使える、シェアできる」をテーマとしたサービス『プロンプトパーク』を2023年10月にリリース*しました。プロンプトが無料で実行できるオープンプラットフォームです。

*プレスリリース：アルサーガ、AIへの指示（プロンプト）をシェア〜実行までできるGPTサービス「プロンプトパーク」を提供開始【無料で利用可能】
https://www.arsaga.jp/news/arsaga-promptpark-20231004/

契約書やメール作成を行うプロンプトのようにビジネスで活用できるものから、「旅行先のおすすめスポットまとめ」のようなプライベートで利用できるものまで、さまざまなプロンプトが『プロンプトパーク』にはあります。このサービスを使えば、営業ツールGPTやメール自動作成GPTのようなサービスを導入する必要はありません。社内で各々が使いたいプロンプトを検索し、その結果、業務が効率化できるようになるからです。

私たちは『プロンプトパーク』を通し、コンシューマからプロンプトデザインを広く集める状態を構築していきます。今後さまざまな人が『プロンプトパーク』へプロンプトを投稿することで、ますますおもしろいプロンプトデザインが登場するでしょう。

2.RAG技術について

RAG（ラグ）技術というのは、データベースとして大量のデータを取り込み、組織の膨大な独自情報について回答できる仕組みです。必要な情報は、普段業務で利用しているマニュアルや社内規定などが書かれたWordやPDFなどを自動変換し、取り組むことができます。どのような形式でもいいので、ベクトルデータベースに情報を投げ込めば、それだけで完全な企業秘書の出来上がりです。

アルサーガでは、ベクトルデータの取り込みができる自動変換ツールを開発しました。WordやPDFだけでなく、ExcelやPowerPointなどからも情報の読み取りが可能です。安全なベクトルデータベース環境を、AWSやAzureなどの各社環境に合わせて構築します。

開発中の画面ではありますが、試しにアルサーガの社内制度である「入社時特別休暇ラッキー7days制度」について質問をしてみましょう。制度名を全文入力するのは大変なので、「ラッキーなんちゃら制度って何ですか？」ぐらいの温度感で聞いてみます。

▲デモを使った実演の様子

すると、「入社時特別休暇ラッキー7days制度とは……」のように回答が返ってきました。詳細情報が書かれたURLやWordやPDFなどのドキュメントデータのリンクを表示することも可能なため、すぐに必要な資料や情報のある場所に到達できます。もう、フォルダや社内wikiなどの検索はいらなくなるでしょう。

このようにRAG技術を使えば、生成AIにはできない、社内独自情報を踏まえた回答ができます。例えば、「先月の当社の売り上げは？」「A社の担当営業を誰にすべきか？」「B社とは取引があるか？それはいつ、どのような案件か？」などの質問は、通常社内情報が無いと回答はできませんが、RAG技術を用いれば瞬時に答えられます。ドキュメントを全て作り直すことなく、回答が実現できるのも魅力的な点です。到底、プロンプトデザインにはできない技術です。

アルサーガがGPTの開発を通し、目指す姿

アルサーガはGPTの開発を通し、「集約した社内情報から、権限ごとに適切な情報を回答する仕組みの構築」「社内で使用する全SaaSサービスやデータベースから情報を安全に集約できる体制づくりの実現」の2つを目指します。もしこの世界を実現できれば、社内サーバーに問い合わせる必要がなくなります。しかし、情報をどこまで公開するのかなどの問題はあるため、権限の管理は必要です。

この開発を円滑に進める上で重要なポイントは、データ分析基盤やDWH（データウェアハウス）など、データ集計サービスを自社で構築している会社は有利ということです。なぜならGPTは計算が苦手で、集計や分析などに強いシステムではないからです。

計算結果をデータ分析基盤やDWHに取り込めている会社は、その情報をChatGPTに送れば回答できる状況になるため、開発をより効率的に進められます。

**業界最先端*の技術！『社内外データ統合分析機能』を開発**

アルサーガでは、業界最先端*の技術として、ネットの情報と社内で蓄積したデータを統合して回答する、『社内外データ統合分析機能』を新たに開発しました。この機能を使えば、インターネットと社内情報の垣根がない状態で、答えを示すことが可能です。

*自社調べ（2023年10月）、日本国内における「生成AIソリューション提供企業」10社との比較

例えば、「アルサーガとトヨタ自動車の売り上げを比較して」という文章を入力しましょう。すると、両社の結果を比較した情報が現れます。

アルサーガは未上場企業のため、正式な売り上げはインターネット上では公開していません。つまり、GPTが社内情報を解析していることになります。この結果と、公開情報としてインターネット上に出ているトヨタ自動車の情報と比較し、表示しています。もしこの情報が見にくい場合は、「表形式に直して」と指示を送るだけで、すぐに体裁を整えることが可能です。

この機能を使えば、Googleやファイルサーバーなどを窓口に情報を探すという活動自体がなくなります。非常に革新的な技術ということがご理解いただけるかと思います。機能の詳細については、こちらのプレスリリースをご覧ください。

プレスリリース：【業界最先端*】無料で使えるアルサーガの法人/行政向けGPT、「社内外データ統合分析機能」を追加　～10/27(金)に開催したJapan IT Week【秋】のセミナーにて先行発表～
https://www.arsaga.jp/news/arsaga-gpt-data-analysis-20231122/

伴走でフォローした会社ほど、GPTは浸透している

アルサーガも含め、世の中にはさまざまなSaaS系サービスが多く出ていますが、サービスを導入しただけでは各社に浸透しないことが分かっています。現在アルサーガでは、無料のSaaS版社内GPTを提供しています。本サービスには約数百社が登録していますが、残念ながらGPTを使いこなせていない企業も多くいます。サービスを使うにも、高いリテラシーが求められるからです。

導入したサービスを浸透させるために必要なのが、伴走してくれるパートナーです。アルサーガは、コンサルや開発などのメンバーが導入企業に伴走することで、組織へのGPT浸透を実現します。これまでに大手企業12社（13案件）の導入支援に携わりましたが、伴走をした企業ほど、浸透の実現性が高いと実感しています。今年の10月にはアルサーガが導入を伴走した三井不動産から『全従業員を対象に、自社特化型AIチャットツール「&Chat」の運用開始』というプレスリリース*が出ました。

*プレスリリース：アルサーガ、三井不動産の自社特化型AIチャットツール「&Chat」を開発支援　〜AI活用促進により業務効率化を図る、今後はお客様の体験価値向上のサービス開発も検討〜
https://www.arsaga.jp/news/mitsuifudosan-andchat-pressrelease-20231122/

ぜひGPTを少しでも社内に浸透させたいと思っているご担当者は、コンサル領域から開発まで伴走可能なメンバーがそろっているアルサーガに一度ご相談いただけると幸いです。

これからのIT投資に求められるは「攻めのDX」であること

ここからは、今後の日本企業に求められる、業務改善の肝となる部分についてお話します。それは、「GPTは業務効率化やコストカットの手段ではない」という認識を持つということです。

今、多くの業界で競合企業との価格や品質などの競争が起こっています。非常にし烈な状況にあり、商品やコストでの差別化が図れない場面も少なくありません。そのときに選ばれるのは、業務が効率化されており、デリバリー効率の良い会社です。これが海外、特にアメリカは徹底されているため、どんどん国外へ事業が進出していきます。

次に示すのは、日本とアメリカのIT投資額の差です。日本のIT投資は、もう30年近く変わっていません。一方でアメリカは継続して投資額が上昇し、30年間で約8倍になっています。ITへの投資がこれだけ進んだアメリカ企業に日本企業が勝つのは、さすがに難しいでしょう。

日本はITに対する投資額が少ないこともあり、結果的にコスト削減のためのIT投資が進められてきました。総務省が日本を含む複数の国に行ったDXに関する調査によると、日本の企業は「IT業務システムの改善を行っても、期待するほどの効果が得られていない」とする回答が他国よりも多かったそうです。一方でアメリカは、「期待以上の成果だった」と答える企業が半数近くを占めました。

なぜここまで大きな差が出たのか。それは、日本企業の多くがDXの導入目的をコスト削減とし、稟議を通すからです。もしコストを削減したいなら、人件費をカットするなどしないと、成果は得られません。IT投資により、システムやサービスなどの費用がかかるなかで、コストカットを目的としての導入は、無理があります。コスト削減のための「守りのDX」では、どれだけ頑張っても期待するだけの効果は得られません。一方でアメリカは、IT投資はコストカットではなく、差別化の手段という考えが浸透しています。いわば、「攻めのDX」です。

日本も今後は、IT投資はコストカットという認識を改め、「攻めのDX」のための投資を行う必要があります。先ほど示したように、日本はIT投資額がアメリカに劣るため、すぐに投資額を増やすのは難しいと思います。しかし、積極的なIT投資をしないと、デリバリー効率という点で日本企業は結局負けてしまうでしょう。

ぜひ、ROIやコスト削減を訴求点にした稟議ではなく、差別化を意識した稟議でIT投資を考えてみてください。今、日本企業がIT投資に関する考えを改めなければ、失われた30年をまた繰り返すことになると私は思います。