Upgrade to PRO for Only $50/Year—Limited-Time Offer! 🔥

生成 AI のインプット・アウトプット している試行錯誤

1ft-seabass
July 10, 2024
210

生成 AI のインプット・アウトプット している試行錯誤

水曜ワトソンカフェvol.35「生成 AI のインプット・アウトプットしている試行錯誤」の登壇資料です。

◆スライド内の素材は以下を使用させていただいております。ありがとうございます!

・シルエットデザイン http://kage-design.com/
・human pictogram 2.0 http://pictogram2.com
・ICOOON MONO http://icooon-mono.com/
・Adobe Stock https://stock.adobe.com/jp

1ft-seabass

July 10, 2024
Tweet

Transcript

  1. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話すこと
  2. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話すこと
  3. ➔ 他の生成 AI で培ってきた技術感覚を IBM watsonx.ai で は、どのように捉えていくかインプット ➔ 日本語ならではの注意点や、あるある的なつまづきについ

    ても実際に体験してインプット ➔ もちろん UI の使い勝手や費用感も実感しつつ ポイント IBM watson.ai でのシンプルな新しいモデルの試し方で自分にインプット
  4. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話すこと
  5. ➔ ChatGPT API でサッとやれていた JSONデータを定義し てうまく返す Function Calling のような手法はやはり必 要になってくる

    ➔ まだ途上ではあるけれど、やはりプロンプト操り力は大切 そうな実感がインプットできた ポイント 他の仕組みに馴染ますために JSON データで受け取るプロンプトの試行錯誤
  6. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話すこと
  7. Unity 実際の仕組み Meta Quest 3 で音声を取得して Whisper API で文字起こしをしつつ IBM

    Cloud Code Engine で作った watson.ai API 連携プログラムで帰ってきたオンオフの値を設備制御に命令するイメージ Whisper API IBM Cloud Code Engine + watsonx.ai マイク入力 文字起こし 質問 回答(JSON) Node-RED エアコン 照明 スマートライト社 設備制御
  8. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話すこと
  9. Windows の WSL2 で入れた Ubuntu で Docker + Ollama +

    llama3 を動かしたメモ https://www.1ft-seabass.jp/memo/2024/05/26/windows-wsl2-ubuntu-docker-ollama-llama3/
  10. IBM LLM granite-code も動く! Windows WSL2 Ubuntu + Docker +

    Ollama で IBM の LLM granite-code を動かしたメモ https://www.1ft-seabass.jp/memo/2024/05/29/windows-wsl2-ubuntu-docker-ollama-ibm-llm-granite-code/
  11. ➔ ちょうど生成 AI を触っていて手元でサッと試しにくいと ころにローカルで動かせる LLM が出てきて楽しい。 ➔ なんか IBM

    の生成 AI も試したいなあと思っていたら、 IBM のオープンソースの取り組みがうまくつながって、自 分の試行錯誤につながった! ➔ ローカル LLM で IBM の生成 AI も試せることが分かって 色々と発想が広がって楽しい ➔ ここまでちょっとずつ色々試しておいてよかったー ポイント IBM AI モデル Graniteファミリーをオープンソース化でローカル LLM でも楽しそうな試行錯誤
  12. ➔ IBM watson.ai でのシンプルな新しいモデルの試し方で自 分にインプット ➔ 他の仕組みに馴染ますために JSON データで受け取るプロ ンプトの試行錯誤

    ➔ 実際の xR + 設備制御 + watson.ai の事例紹介 ➔ IBM AI モデル Graniteファミリーをオープンソース化で ローカル LLM でも楽しそうな試行錯誤 今日話したこと こんなことを話しましたー。ふりかえりつつ。
  13. ➔ 生成 AI は進化が早いがどこかで一度検証しておくと、そ の知見をベースに進化具合や変化の差異が分かりやすい ➔ IBM watsonx.ai でも同様で LLM

    モデルの性質や日本語で の注意点などが分かると他の日本語 LLM にも応用が利く ➔ クラウド利用の IBM 発の言語モデルを追っていたら最近 はローカルでも動く流れがありオープンソースへの IBM の親和性が体験できて面白い ➔ とりあえず手を動かしておくと次の動きもしやすくなるの でやりつづけていきたい! まとめ