Global AI Bootcamp 2024 Peru - Azure OpenAI Conversaciones dinámicas con varios mensajes de sistema

Fui invitado a participar de la Global AI Bootcamp 2024 organizada por la comunidad de Peru donde el viernes 15 de Marzo di una charla sobre el uso de "Conversaciones dinámicas con varios mensajes de sistema" utilizando Azure OpenAI.

Transcript

3. { "name": "Lautaro Carro", "username": "@lauchacarro ", "award": "Microsoft MVP ", "certifications": [“AZ-900", “AZ-204"] "activities": ["Latino .NET Online", "Rest Of My Cloud"] }
4. OBJETIVOS ❑ Repasar los 4 Tipos de Mensajes de ChatGPT ❑ Manipulación del Contexto y de las conversaciones ❑ Mitos y verdades de los mensajes de sistema ❑ Los 4 Tipos de mensajes ❑ Introducirnos a Function Calling
5. Contexto y Conversación ❑En el ámbito de la inteligencia artificial, el concepto de contexto alude a la información previa o al entorno en el que tiene lugar una interacción o tarea específica. ❑GPT utiliza el contexto proporcionado por el usuario, que puede ser una pregunta, una declaración o cualquier otra entrada, para generar una respuesta relevante y coherente. ❑ A medida que progresa la conversación, GPT utiliza el historial de interacciones como contexto adicional para generar respuestas más precisas y contextualmente relevantes. ❑ Esto permite que el modelo comprenda mejor el flujo de la conversación y genere respuestas que se ajusten a la situación actual.
6. Tipos de Mensajes ❑ Al desarrollar aplicaciones con ChatGPT, todo se basa en palabras y tokens. Por eso mismo, es importante saber quiénes son los que realizan los mensajes. Tenemos 4 tipos de mensajes: ❑Mensaje de Sistema ❑Mensaje de Usuario ❑Mensaje de Asistente ❑Mensaje de ????
7. Mensaje de Sistema ❑ El mensaje del sistema se usa para preparar el modelo con el contexto, las instrucciones y el resto de la información relevante para su caso de uso. ❑ Puede usar el mensaje del sistema para describir la personalidad del asistente, definir qué debe y no debe responder el modelo y definir el formato de las respuestas del modelo. ❑ Ejemplo: “Eres un asistente de inteligencia artificial que ayuda a las personas a encontrar información y que responde rimando. Si el usuario le hace una pregunta de la que no conoce la respuesta, díselo.”
8. Mensaje de Usuario ❑ Un mensaje de rol usuario es la entrada proporcionada por el usuario al sistema. Puede ser una pregunta, una solicitud o cualquier tipo de interacción del usuario con el asistente. ❑ Ejemplo: “¿Puedes decirme el pronóstico del tiempo para mañana?”
9. Mensaje de Asistente ❑ Un mensaje de rol asistente es la respuesta generada por el sistema (ChatGPT) a la entrada del usuario. ❑ Este mensaje está destinado a proporcionar información, respuestas a preguntas o cumplir con solicitudes del usuario. ❑ Ejemplo: "Claro, el pronóstico del tiempo para mañana es soleado con una temperatura máxima de 25 grados Celsius. ¿Hay algo más en lo que pueda ayudarte?"
11. Mitos sobre el Mensaje de Sistema
12. “El mensaje de sistema es el primer mensaje de la conversación” ❑ Un mensaje de sistema se puede encontrar en cualquier parte de una conversación, no hay un lugar designado.
13. “Solo puede haber un mensaje de sistema que es el que contiene el contexto de la conversación” ❑ No existe un límite para la cantidad de mensajes de sistemas que puede haber en una conversación.
14. “Si hay más de un mensaje de sistema, se tiene en cuenta solo el último.” ❑ GPT tiene en cuenta todos los mensajes de la conversación. Ninguno pisa a ninguno.
16. Function Calling
17. ¿Qué son las Function Calling? ❑ Las Function Calling son una forma de conectar los modelos LLM con herramientas externas, como funciones, API o servicios de Azure. ❑ Estas “llamadas” permiten obtener datos estructurados del modelo, convertir el lenguaje natural en llamadas a API, extraer datos de texto, generar imágenes y mucho más. ❑ Las Function Calling se pueden usar con la API de finalizaciones de chat, que permite crear asistentes inteligentes que responden a las consultas de los usuarios.
18. Consideraciones ❑ Las Function Calling NO hacen que GPT ejecute código C#. ❑ Se llama “Function Calling” porque GPT nos notifica cuando y a cuál Función de C# llamar. ❑ Así como existen mensajes de sistema, de usuario y de asistente, también existe Mensaje de Tool
20. MUCHAS GRACIAS