精度を高めることに関心が移行 ⚫プロバイダーも、モデルの学習対象をテキスト問題から複雑な問題へ ⚫LLMがタスクを達成しやすい状況を作る ⚫LLMが解きやすい粒度にタスクを分解する ⚫不得意なタスク、決定論的な処理にはツールを使う(例:Code Interpreter) ⚫コンテキストエンジニアリング ⚫LLMが入力とする情報(コンテキスト)を最適化する取り組み ⚫記述、選択、圧縮、分離などの手法が提案(参考:LangChainブログ) どうすればLLMに期待した動作をさせられるか コンテキストエンジニアリングは、次のステップのためにコンテキストウィンドウに適切な情報を 適切に充填する繊細な技術と科学です。(アンドレイ・カーパシー) context engineering is the delicate art and science of filling the context window with just the right information for the next step.(Andrej Karpathy) https://x.com/karpathy/status/1937902205765607626 より引用 ハルシネーション ・AIが不正確な情報を生成する 入力がテキストのみ ・画像や映像も入力にしたい レスポンス速度 ・生成速度が遅くUXに懸念 セキュリティ ・ AIの学習に利用されないか コスト ・LLMは高コスト
⚫エージェントで個人的に最も実用的なのはo3, Deep Research ⚫o3はワークフロー型だが多数のツールを使いLLMの自律性を活かしている ⚫こういうツールでユーザーに価値を感じてもらう ⚫既存業務への適用を軸に考えるとLLMの使い道も限られる ⚫ワークフロー型と自律型の中間を目指すアプローチ? 使ってみて「面白い!」と感じてもらうアプローチも o3 の思考プロセス