Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Java + AI : Desatando el poder de la IA con Lan...

Java + AI : Desatando el poder de la IA con LangChain4j y otros frameworks

Explicaremos y daremos un overview de los frameworks en Java como LangChain4j, Spring AI, Semantic Kernel y como puede ayudarnos a crear aplicaciones sorprendentes soportados por un LLM de AI. Hablaremos de las diferentes tecnicas de uso tanto on-premise como en Cloud.

Finalmente, utilizaremos LangChain4j para hacer ejemplos prácticos y demostraremos como crear aplicaciones inteligentes impulsada por IA en un ecosistema de Java.

Carlos Zela Bueno

February 16, 2024
Tweet

More Decks by Carlos Zela Bueno

Other Decks in Programming

Transcript

  1. Java + AI Desatando el poder de IA en Java

    con LangChain4j y otros frameworks Carlos Zela @czelabueno @c_zela
  2. Embeddings AWS Bedrock - Cohere Source: Spring AI @c_zela Carlos

    Zela Bueno [gh, linkedin, etc]/czelabueno
  3. Java frameworks al rescate! LangChain4j Spring AI Semantic Kernel LLM

    Language Chat Model OpenAI, HuggingFace, Google Gemini Pro, AWS Bedrock, MistralAI, Ollama, etc OpenAI, HuggingFace, Google VertexAI, AWS Bedrock, Ollama, etc OpenAI, Azure OpenAI 14 8 2 Embedding Model OpenAI, AWS Bedrock, Azure OpenAI, MistralAI, Google VertexAI, etc OpenAI, AWS Bedrock, Azure OpenAI, Google VertexAI, etc OpenAI, Azure OpenAI 10 8 2 Image Generation OpenAI, Google Gemini Pro, Azure Open AI OpenAI, StabilityAI OpenAI, Azure OpenAI 3 2 2 Vector Stores Pinecone, Chroma, Cassandra, Elastic Search, Azure Search, Milvus, PG vector, Open Search, etc Pinecone, Chroma, Azure AI Search, PGVector, Milvus, etc Azure AI Search 14 8 1 RAG Ingestor Data Source: Pdf, Doc/Docx, Ppt/Pptx, HTML, AWS S3, Azure Storage, Github Data Source: Pdf, Doc/Docx, Ppt/Pptx, HTML Data Source: Pdf, Doc/Docx, HTML, Text Plain Basic RAG Parsers, Transformer, Loaders, etc ETL Func Skills Advance RAG Yes No No Actualizado a inicios de Febrero 2024 @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
  4. Java Ecosystem LangChain4j Spring AI Semantic Kernel JDK 8, 11,

    17, 21 17 17, 21 GraalVM Yes (partial) No No Release GA Experimental Alpha Frameworks Spring Starter Quarkus Starter Spring - Actualizado a inicios de Febrero 2024 @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
  5. Recomendaciones para empezar: • Articulo: https://kindgeek.com/blog/post/experiments-with-langchain4j-or-java-way-to-llm- powered-applications • LangChain4j Examples:

    https://github.com/langchain4j/langchain4j-examples • Spring AI: https://docs.spring.io/spring-ai/reference/getting-started.html • My Repo, muchos muchos casos de uso ya resueltos! https://github.com/czelabueno/javagenai-frontend @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno