プロンプトインジェクション（ジェイルブレイク）とは、言語モデルを操作して、組み込みの制約やプロトコルを回避することです。提供されているシナリオ（A）は、標準プロトコルでは情報提供が不可能であるにもかかわらず、モデルに独創的な情報提供方法を見つけさせることで、この例を示しています。この種のプロンプトは、モデルの制約を回避するように設計されており、不正な出力や意図しない出力につながる可能性があります。
参照
AIの安全性とセキュリティに関する記事
即時インジェクション攻撃と防御に関する研究

LangChainを用いた会話型検索チェーンでは、チェーンは通常、ユーザー入力後チェーン実行前と、コアロジック後出力生成前の2つの重要なポイントでメモリとやり取りします。このアプローチにより、システムはチェーンのメインロジックを実行する前に関連コンテキストでメモリを更新し、実行中に得られた新しい情報やコンテキストでメモリを再度更新してから最終出力を生成することができます。
参照
会話型検索チェーンに関するLangChainドキュメント
会話型 AI モデルにおけるメモリ管理に関する技術ガイド

機械学習の精度は、評価中にモデルによって行われた正しい予測と全体の予測の割合を測定します。
精度の計算方法:

精度が高いほど、モデルのパフォーマンスが優れていることを示します。
主に分類タスクで使用されますが、LLM の微調整結果を評価することもできます。
他のオプションが間違っている理由:
(A) は不正解です。ニューラル ネットワークの層の数によって精度が決まるわけではないからです。
(B) は不正解です。精度では全体の予測だけでなく、正しさも考慮されるからです。
(D) は不正解です。精度は誤った予測だけでなく正しい予測も測定するからです。
🔹 Oracle Generative AI リファレンス:
Oracle AI は、精度、損失、および複雑度を使用してモデルの微調整パフォーマンスを評価し、LLM 機能を向上させます。