Anthropic ha incorporado la posibilidad de incluir citas que posteriormente referirá el modelo Claude en sus respuestas, una forma de reforzar la información que ofrece y de reducir las alucinaciones.
Las citas son una forma de verificar las fuentes que utiliza Claude para generar sus respuestas. Esta novedad, disponible a través de la API de Anthropic, permitirá al modelo "proporcionar referencias detalladas a las frases y pasajes exactos que utiliza para generar respuestas, lo que genera resultados más verificables y confiables".
Como explica Anthropic en su blog oficial, las citas pueden ayudar a identificar los puntos clave en los resúmenes de textos y a ofrecer respuestas más detalladas a preguntas complejas.
Los desarrolladores deben, primero, facilitar la modelo la fuente documental original y su contexto, para que pueda analizarlo y dividirlo en frases y párrafos, y mostrar estas citas en las respuestas. "El texto citado hará referencia a los documentos fuente para minimizar las alucinaciones", añade la compañía.
Las citas están disponibles en los modelos Claude 3.5 Sonnet y Claude 3.5 Haiku en la API de Anthropic y en Vertex AI de Google Cloud.
