Miichisoftのブログへようこそ 私たちは、デジタルトランスフォーメーションの過程でのお客様とテクノロジーで競争力の優位性を高め、「テクノロジーコンパニオン」になりたいという想いを込めて、ITコンサルティングとソリューションサービスを提供する会社です。 会社のホームページ: https://miichisoft.com/ サービス一覧： → オフショア開発：https://miichisoft.com/offshore-service/ → ラボ開発：https://miichisoft.com/labo-service/ → Labo as a Service：https://miichisoft.com/laas/ → ITコンサルティング：https://miichisoft.com/it-consulting/ ご連絡をお待ちしております。 よろしくお願い致します。
[PR]上記の広告は3ヶ月以上新規記事投稿のないブログに表示されています。新しい記事を書く事で広告が消えます。
Japan IT Weekは、日本最大の情報技術展であり、世界中からの参加者が集う大規模なイベントです。特に「ソフトウェアとアプリ開発展」では、最新のIT技術やソフトウェア開発に関する製品やサービスが展示され、革新性と多様性が評価されています。
12の専門展から構成されている日本最大*のIT・DX展示会です。
デジタル領域のテーマを幅広く網羅。IT課題を抱えるビジネスユーザーにとって、欠かせない展示会です。
ブースでは課題解決に向けた相談、見積り・導入時期の打合せなどが行われます。
特に「ソフトウェアとアプリ開発展」では、最新のIT技術やソフトウェア開発に関する製品やサービスが展示され、革新性と多様性が評価されています。
Miichisoftは、この壮大なイベントに参加し、革新的なAIソリューションをご紹介いたします。
弊社ブースでは、ビジネスのスピードアップをAIで支援する「Total AI Business Assistant」のソリューションをご紹介いたします。特に、RAG CoreやLLMの専門知識、プロンプトエンジニアリングなどのキーワードにフォーカスして、多数の開発実績とデモをご紹介させていただきます。
Miichisoft の製品およびサービスに興味があるかもしれません
2024年Japan IT Week【春】でMiichisoftのブースにお立ち寄りいただき、最新のAIソリューションをご覧ください。ご来場を心よりお待ちしております。
私たちは設立以来、6年連続でSODECイベントに参加しており、今年もあなたにお会いできることを楽しみにしています！
ChatGPTの助けを借りて、Large Language Models（LLM）は世界中の誰の想像力を捉えています。製品やサービスに組み込まれたLLMは、基本となるシステムとのほとんどの人間の対話を高速化するのに役立ちます。
現在のLLM対応アプリは、主にLlama 2、Mistral、Vicuna、そして時折Falcon 170Bなどの「オープンソース」LLMを使用しています。これらのモデルは公に利用可能なデータでトレーニングされており、ユーザーの質問や指示に適切に対応できます。ただし、あなたまたは貴社はLLMによるサービスを、より特定のドメインまたはプライベートなデータに対応させたいと考えている場合、データサイエンティストはモデルを微調整し、十分な数の例を供給する必要があります。
微調整は既存のモデルの機能の上に構築される行為であり、LoRAなどの特定の微調整方法が存在します。LoRAは現在のモデルの重みを凍結し、追加の重み層（アダプターと呼ばれることが多い）を追加して、あなたのドメイン固有のニーズに焦点を当てます。これらの追加の重みをトレーニングするのは、ゼロからモデルをトレーニングする場合よりも少ない時間とデータが必要です。
Huggingfaceは最近、異なるモデルでのLoRA微調整能力を比較した記事を公開しました。彼らはLoRAがLlama 2 7Bモデルのパラメータの0.12%を導入すると述べています。これにより、840万のパラメータのみをトレーニングするプロセスが実現します。微調整はデータセンターのGPUペアで簡単に行うことができます。MetaのAI Research SuperClusterのようなスーパーコンピューターは必要ありません。これがVMwareとBroadcomがオープンソースLLMと微調整を組み合わせることが戦略的なビジネスアプリケーションを構築する道だと信じている理由です。
ただし、新しい製品を発売したり、新しいサービスを導入するたびに、データサイエンティストはこの新しいビジネスエンティティに関するデータを収集し、データセットに正しく整理し、LLMが従業員または場合によっては顧客が生成するすべてのプロンプトに正直に回答できるように微調整プロセスを開始する必要があります。
検索強化生成技術の導入は、より迅速で革新的で正確です。検索強化生成（その用語は口の中で踊るだけですね）、略してRAGは、LLMにデータベースの機能を追加します。新しいサービスや製品を発売するたびにデータをLLMに適合させる代わりに、LLMにユーザーのプロンプトに回答しながら関連データへの直接アクセスを許可します。
もちろん、これは単にLLM対応アプリにデータベース接続を追加するよりも複雑です。それでも、データサイエンスコミュニティとの継続的な取り組みにより、RAG機能をLLM対応アプリに統合することが容易になっています。もちろん、VMware Private AI Foundationの開発においてもこのユースケースに焦点を当てており、拡張可能で堅牢なサービスを提供しています。RAGが導入する全体のプロセスと一部のコンポーネントについて詳しく見ていきましょう。
まず、単純な（非RAG）LLMプロセスから始めましょう。ユーザーはLLM対応アプリ内でプロンプトを生成します（1）。アプリはLLMに接続し、プロンプトを入力として提供します（2）。LLMは出力のための単語をできるだけ正確に予測します（3）そして「プロンプトの完了」をユーザーに表示するためにアプリに戻します（4）。
RAGプロセスに入る前に、RAGの重要な要素であるベクトルデータベースを見てみましょう。ベクトルデータベースは、行と列を持たないデータベースであり、データ（ポイント）とテキストを数値として（正確には数値表現として）格納します。これらの数値表現はベクトル埋め込みと呼ばれ、これらは類似性に基づいてグループ化（クラスタリング）されます。なぜ数値表現なのでしょうか？
要するに、LLMなどのニューラルネットワークモデルは数値のみを処理できます。したがって、ニューラル言語処理（NLP）パイプラインは単語を1つまたは複数のトークンに変換します。ベクトルは、システムが単語の意味と他の単語との関連性を構造化し分析できるトークンの数値表現です。トークンとベクトルについてもっと知りたい場合は、Sasha Metzgerが『NLPのトークン、ベクトル、および埋め込みの初心者ガイド』を公開しています。ぜひお勧めです！
RAGを使用すると、データベースがLLMの長期記憶になります。では、このベクトルデータベースをどのように使用するのでしょうか？まず第一に、LLMアプリにクエリを実行させたい情報をデータベースに供給する必要があります。これには、データをベクトル化する必要があります。つまり、データをトークンに変換し、トークンをベクトル埋め込みにエンコードする必要があります。今日最も人気のあるツールはWord2Vec、fastText、およびGloVeです。より包括的なデータフレームワークはLlamaindexであり、データの摂取、オーケストレーション、および検索ツールを提供しています。
RAGの利点の一つは、LLM対応のアプリが、コアビジネスを拡張または拡大する際にオフラインにする必要がないことです。最新のデータでLLM対応のアプリにデータを供給するために、データを非同期にベクトル化できます。新しいサービスや製品をリリースするたびにモデルを再トレーニングまたは微調整する必要はありません。データエンジニアは、LLMの「バージョニング」に関係なく新しいデータをデータベースに導入します。
ユーザーの視点からプロセスを見ると、ユーザーはLLM対応のアプリ内でプロンプトを生成します（1）。アプリはプロンプトを直接LLMに送るのではなく、プロンプトをベクトルデータベースにリダイレクトします（2）。ベクトルデータベースは類似性で検索し（2）、適切なデータ（単語）を取得します。フレームワークはデータをアプリに送信し（3）、ベクトルデータベースから取得したデータでユーザープロンプトを拡充します（4）。アプリはLLMにユーザーの質問に基づいて応答を生成するよう指示し、応答を生成するためのデータを提供します（5）。LLM対応のアプリはユーザーに回答を表示します（6）。
RAGは劇場のプロンプター（Souffleur）のように振る舞い、LLMにキューを提供します。プロンプターが演劇を演じる俳優にキューを提供するように、RAGはLLMに最新かつ正確なデータでプロンプトを拡充して正直に保ちます。内部化されたデータに依存せず、優れた自然言語応答を形成することが主な目標です。本質的に、ベクトルデータベースが記録システムとなり、LLMモデルとアプリが知能システムとなります。
VCFプラットフォームにベクトルデータベースとRAG対応のアプリを展開する方法に関する詳細は、お知らせいたします。
AIと人間の創造力が交わるこのデジタル時代において、テクノロジーの絶え間ない変化に立ち向かい、お客様をデジタルマーケティングの新しい高みに導きます。AIの成果を向上させるための手法がまだ不明瞭な場合は、Miichisoftと提携して当社の迅速なエンジニアリングサービスを利用することが、状況を劇的に変える可能性があります。また、Miichisoft には、「RAG（Retrieval Augmented Generation）システムのパフォーマンスを改良する6つの方法」について相談した記事があります。興味がある場合は、こちらのリンクをクリックして参照してください。
https://miichisoft.com/6-ways-improve-rag-retrieval-augmented-generation/
ChatGPTの助けを借りて、Large Language Models（LLM）は世界中の誰の想像力を捉えています。製品やサービスに組み込まれたLLMは、基本となるシステムとのほとんどの人間の対話を高速化するのに役立ちます。
現在のLLM対応アプリは、主にLlama 2、Mistral、Vicuna、そして時折Falcon 170Bなどの「オープンソース」LLMを使用しています。これらのモデルは公に利用可能なデータでトレーニングされており、ユーザーの質問や指示に適切に対応できます。ただし、あなたまたは貴社はLLMによるサービスを、より特定のドメインまたはプライベートなデータに対応させたいと考えている場合、データサイエンティストはモデルを微調整し、十分な数の例を供給する必要があります。
微調整は既存のモデルの機能の上に構築される行為であり、LoRAなどの特定の微調整方法が存在します。LoRAは現在のモデルの重みを凍結し、追加の重み層（アダプターと呼ばれることが多い）を追加して、あなたのドメイン固有のニーズに焦点を当てます。これらの追加の重みをトレーニングするのは、ゼロからモデルをトレーニングする場合よりも少ない時間とデータが必要です。
Huggingfaceは最近、異なるモデルでのLoRA微調整能力を比較した記事を公開しました。彼らはLoRAがLlama 2 7Bモデルのパラメータの0.12%を導入すると述べています。これにより、840万のパラメータのみをトレーニングするプロセスが実現します。微調整はデータセンターのGPUペアで簡単に行うことができます。MetaのAI Research SuperClusterのようなスーパーコンピューターは必要ありません。これがVMwareとBroadcomがオープンソースLLMと微調整を組み合わせることが戦略的なビジネスアプリケーションを構築する道だと信じている理由です。
ただし、新しい製品を発売したり、新しいサービスを導入するたびに、データサイエンティストはこの新しいビジネスエンティティに関するデータを収集し、データセットに正しく整理し、LLMが従業員または場合によっては顧客が生成するすべてのプロンプトに正直に回答できるように微調整プロセスを開始する必要があります。
検索強化生成技術の導入は、より迅速で革新的で正確です。検索強化生成（その用語は口の中で踊るだけですね）、略してRAGは、LLMにデータベースの機能を追加します。新しいサービスや製品を発売するたびにデータをLLMに適合させる代わりに、LLMにユーザーのプロンプトに回答しながら関連データへの直接アクセスを許可します。
もちろん、これは単にLLM対応アプリにデータベース接続を追加するよりも複雑です。それでも、データサイエンスコミュニティとの継続的な取り組みにより、RAG機能をLLM対応アプリに統合することが容易になっています。もちろん、VMware Private AI Foundationの開発においてもこのユースケースに焦点を当てており、拡張可能で堅牢なサービスを提供しています。RAGが導入する全体のプロセスと一部のコンポーネントについて詳しく見ていきましょう。
まず、単純な（非RAG）LLMプロセスから始めましょう。ユーザーはLLM対応アプリ内でプロンプトを生成します（1）。アプリはLLMに接続し、プロンプトを入力として提供します（2）。LLMは出力のための単語をできるだけ正確に予測します（3）そして「プロンプトの完了」をユーザーに表示するためにアプリに戻します（4）。
RAGプロセスに入る前に、RAGの重要な要素であるベクトルデータベースを見てみましょう。ベクトルデータベースは、行と列を持たないデータベースであり、データ（ポイント）とテキストを数値として（正確には数値表現として）格納します。これらの数値表現はベクトル埋め込みと呼ばれ、これらは類似性に基づいてグループ化（クラスタリング）されます。なぜ数値表現なのでしょうか？
要するに、LLMなどのニューラルネットワークモデルは数値のみを処理できます。したがって、ニューラル言語処理（NLP）パイプラインは単語を1つまたは複数のトークンに変換します。ベクトルは、システムが単語の意味と他の単語との関連性を構造化し分析できるトークンの数値表現です。トークンとベクトルについてもっと知りたい場合は、Sasha Metzgerが『NLPのトークン、ベクトル、および埋め込みの初心者ガイド』を公開しています。ぜひお勧めです！
RAGを使用すると、データベースがLLMの長期記憶になります。では、このベクトルデータベースをどのように使用するのでしょうか？まず第一に、LLMアプリにクエリを実行させたい情報をデータベースに供給する必要があります。これには、データをベクトル化する必要があります。つまり、データをトークンに変換し、トークンをベクトル埋め込みにエンコードする必要があります。今日最も人気のあるツールはWord2Vec、fastText、およびGloVeです。より包括的なデータフレームワークはLlamaindexであり、データの摂取、オーケストレーション、および検索ツールを提供しています。
RAGの利点の一つは、LLM対応のアプリが、コアビジネスを拡張または拡大する際にオフラインにする必要がないことです。最新のデータでLLM対応のアプリにデータを供給するために、データを非同期にベクトル化できます。新しいサービスや製品をリリースするたびにモデルを再トレーニングまたは微調整する必要はありません。データエンジニアは、LLMの「バージョニング」に関係なく新しいデータをデータベースに導入します。
ユーザーの視点からプロセスを見ると、ユーザーはLLM対応のアプリ内でプロンプトを生成します（1）。アプリはプロンプトを直接LLMに送るのではなく、プロンプトをベクトルデータベースにリダイレクトします（2）。ベクトルデータベースは類似性で検索し（2）、適切なデータ（単語）を取得します。フレームワークはデータをアプリに送信し（3）、ベクトルデータベースから取得したデータでユーザープロンプトを拡充します（4）。アプリはLLMにユーザーの質問に基づいて応答を生成するよう指示し、応答を生成するためのデータを提供します（5）。LLM対応のアプリはユーザーに回答を表示します（6）。
RAGは劇場のプロンプター（Souffleur）のように振る舞い、LLMにキューを提供します。プロンプターが演劇を演じる俳優にキューを提供するように、RAGはLLMに最新かつ正確なデータでプロンプトを拡充して正直に保ちます。内部化されたデータに依存せず、優れた自然言語応答を形成することが主な目標です。本質的に、ベクトルデータベースが記録システムとなり、LLMモデルとアプリが知能システムとなります。
VCFプラットフォームにベクトルデータベースとRAG対応のアプリを展開する方法に関する詳細は、お知らせいたします。
AIと人間の創造力が交わるこのデジタル時代において、テクノロジーの絶え間ない変化に立ち向かい、お客様をデジタルマーケティングの新しい高みに導きます。AIの成果を向上させるための手法がまだ不明瞭な場合は、Miichisoftと提携して当社の迅速なエンジニアリングサービスを利用することが、状況を劇的に変える可能性があります。また、Miichisoft には、「RAG（Retrieval Augmented Generation）システムのパフォーマンスを改良する6つの方法」について相談した記事があります。興味がある場合は、こちらのリンクをクリックして参照してください。
https://miichisoft.com/6-ways-improve-rag-retrieval-augmented-generation/
Prompt Engineeringの重要性について最近お話ししましたが、今回はいくつかの実際の事例とヒントについて詳しく掘り下げてみましょう。これにより、GPT-3やGPT-4のようなAI言語モデルからさらなる価値を引き出すためのスキルを磨く手助けとなるでしょう。
これらの事例とヒントを取り入れることで、様々な産業やアプリケーションでAI言語モデルの影響をさらに向上させることができます。
AIと人間の創造力が交わるこのデジタル時代において、Miichisoftはテクノロジーの絶え間ない変化に立ち向かい、お客様をデジタルマーケティングの新しい高みに導きます。AIの成果を向上させるための手法がまだ不明瞭な場合は、Miichisoftと提携して当社の迅速なエンジニアリングサービスを利用することが、状況を劇的に変える可能性があります。また、Miichisoft には、「カスタマーエクスペリエンス（CX）におけるプロンプトエンジニアリングの潜在的価値」という記事があります。興味がある場合は、こちらのリンクをクリックして参照してください。
参考リンク：https://miichisoft.com/the-potential-value-of-prompt-engineering-in-customer-experience/
AIパワード・マーケティングの核心には、Promptの概念があります。これは、人間のマーケターの意図とAIモデルのポテンシャルを結ぶ橋であり、AIに関連性のある有益なコンテンツを生成するための指示として機能します。Promptは、AIモデルに対してコンテンツを調整するための基盤のようなものです。
AIの文脈では、PromptはAIモデルからの応答をトリガーする構造化された入力です。これらの入力は質問、声明、または未完成の文などさまざまな形を取り、魅力的な広告コピーの作成、ソーシャルメディアの投稿の作成、またはデータから洞察を抽出するといった目標に従ってAIの出力を形成することができます。
Promptエンジニアリングは、あたかもマーケターとAIモデルとの協力的な対話のようなものです。マーケターは初期の入力、つまりPromptを提供し、AIはその意図に合わせたコンテンツで応答します。この相互作用は、AIの計算能力がマーケティングの専門知識を補完する創造的なパートナーシップを形成します。
AIの応答が魔法のように見える裏には、複雑なアルゴリズムに基づくプロセスがあります。Promptが与えられると、AIモデルは大量のトレーニングデータからパターンを内部で分析します。これにより、与えられた入力に論理的に続くテキストを予測し生成することができます。結果として、これは人間の言語を模倣したものですが、計算に基づく理解の製品です。
Promptのダイナミクスを理解することは、AIパワード・マーケティングの全体の潜在能力を引き出すために不可欠です。
Promptエンジニアリングに乗り出すとき、クリアな目的から旅が始まります。Promptを全体的なマーケティングの目標に合わせて、AI生成のコンテンツが目的にかなうようにします。たとえば、新しいフィットネスアプリを宣伝することを目指している場合、Promptは次のようになります。
この整合性をさらに高めるために、望ましい出力とトーンを指定します。若年層を対象にしている場合、Promptには次のような指示が含まれる可能性があります。
あいまいさは効果的なPromptの敵です。Promptを具体的で明確にし、誤解の余地を残さないようにします。たとえば、「健康的な生活について書いてください」という漠然とした指示の代わりに、
ディテールの力を利用してAIの創造性を導くことができます。たとえば、言語翻訳ソフトウェアを開発している場合、Promptは次のようになります。
Promptエンジニアリングにおいて文脈は魔法の要素です。提供する文脈が多ければ多いほど、AIの応答が正確で関連性が高くなります。たとえば、製品比較のブログ投稿を依頼する場合、対象となる製品の機能、仕様、および顧客レビューなどのデータを提供します。これにより、AIは包括的で情報に基づいた記事を生成できます。
たとえば、AIにカスタマーサポートチャットボットのための応答を生成させる場合は、一般的なカスタマーの問い合わせに関する背景情報を提供して、モデルが役立ち、関連性のある回答を生成できるようにします。
Promptエンジニアリングは反復的なプロセスです。異なるPromptの形成を試して、最も効果的なアプローチを見つけることをためらいません。言い回しを微調整したり、焦点を変えたり、指示を言い換えたりして、AIが異なる方法で応答するかどうかを確認します。
試行錯誤する際は、AIモデルのパフォーマンスを注意深くモニターします。初期のInstagramキャプションのPromptが望むエンゲージメントを生み出さない場合は、新しいアプローチを試してみてください。
これらのベストプラクティスに従うことで、Promptエンジニアリングの技術を磨き、マーケティングの取り組みにおいてAI駆動の創造性の全ポテンシャルを引き出すことができます。
異なるマーケティングタスクに適したPromptの調整
魅力的なブログ投稿から説得力のある広告コピー、そしてわずかなソーシャルメディアコンテンツまで、さまざまなコンテンツタイプに対応するPromptエンジニアリングは、マーケターの武器庫での多用途なツールです。たとえば、SaaS分析プラットフォームのために魅力的なニュースレターキャンペーンを生成する場合、Promptは次のようになります。
「最新のデータトレンドとSaaS開発での分析の革新的な手法を強調した、示唆に富み視覚的に魅力的なニュースレターを作成してください。」
AIを活用してクリエイティブ性を注入しつつ、ブランドのユニークな声を維持します。ブランドのパーソナがウィットとユーモアで知られている場合、Promptは次のようになります。
「最新の製品の画像に合うユーモアと奇抜なInstagramキャプションを起草してください。」
AI がデータから貴重な洞察を抽出できるようにプロンプトを設計します。 AI がトレンド分析を実行し、戦略的な意思決定に役立つ情報を抽出できるように導きます。
プロンプト エンジニアリングを活用して、電子メールの応答にパーソナライゼーションを組み込みます。 Craft プロンプトは、パーソナライズされた役立つ、明確な電子メール コンテンツを生成するように AI をガイドします。
プロンプト エンジニアリングは、マーケティング担当者が AI を使用して革新できるようにする規律として機能します。 この旅には、確かな手腕、洞察力、そして倫理的行動への揺るぎない取り組みが必要です。 AI を活用したマーケティングが進むにつれて、迅速なエンジニアリングが引き続き指針となり、人間の専門知識とテクノロジーの進歩の融合が正確で影響力のある結果を生み出し続けます。
キャンペーンを新しい高みに押し上げましょう！プロンプトエンジニアリングの力を発見し、AI駆動の創造力でキャンペーンを高めましょう。包括的なガイドでのベストプラクティスと洞察にダイブしましょう。
今すぐガイドを探索:
https://miichisoft.com/prompt-in-digital-marketing/
人間の独創性と最新テクノロジーの融合で、あなたのマーケティングの可能性を最大限に引き出してください。AI駆動のマーケティングの未来をお見逃しなく！
