Noticias sobre LLM
30 artículos relacionados
LLMs are making formal software verification feasible at a much larger scale
Conservar o no conservar: aprendizaje de la retención de caché de KV en sistemas de servicio LLM desagregados
To Keep or Not to Keep: Learning KV Cache Retention in Disaggregated LLM Serving Systems
AI InsightLa inferencia de modelos de lenguaje grande separados separa la computación y el almacenamiento a través de la red, por lo que las estrategias de almacenamiento en caché deben considerar los costos de memoria y ancho de banda. KVLearn optimiza la retención de caché KV a través de un marco de aprendizaje, lo que significa que la optimización de grandes sistemas de inferencia de modelos de lenguaje está pasando de la aceleración de un solo modelo a la programación de recursos distribuidos con colaboración de software y hardware.Navalia: avanzando en los cowork Agent a través de una síntesis de tareas verificable y un post-entrenamiento de largo horizonte
Navalia: Advancing Cowork Agents through Verifiable Task Synthesis and Long-Horizon Post-Training
AI InsightEl marco Navalia resuelve el problema del razonamiento numérico de varios pasos en el análisis financiero al combinar la síntesis de tareas verificables con una capacitación posterior a largo plazo, lo que significa que el método de capacitación de grandes agentes de modelos de lenguaje está evolucionando desde depender de costosas anotaciones de expertos a datos sintéticos automatizados y altamente confiables.Cloudflare's Clairic pulls data from documents faster and cheaper than LLMs
AI InsightEl modelo Clairic lanzado por Cloudflare afirma poder extraer datos de documentos de forma más rápida y económica que los modelos de lenguajes grandes. Si bien la comparación exacta no está clara, la liberación de Clairic es digna de mención.Importancia 60/100Un flujo de trabajo controlado LLM para el diagnóstico basado en evidencia de diferencias en las puntuaciones de riesgo
A Controlled LLM Workflow for Evidence-Grounded Diagnosis of Risk Score Differences
AI InsightLa combinación de grandes modelos de lenguaje con evidencia SHAP comparativa y verificación determinista significa que las aplicaciones de IA en escenarios de alto riesgo están pasando de depender de las capacidades de un modelo único a una arquitectura de ingeniería que pone igual énfasis en "restricciones estructuradas y razonamiento explicable". Esto proporciona un camino factible para la implementación de grandes modelos de lenguaje en áreas que requieren una precisión extremadamente alta, como el control de riesgos financieros.Run LLM Locally – which open model fits your GPU or Mac, and how fast
AI InsightConstantemente surgen herramientas de adaptación para modelos de lenguajes grandes de código abierto en hardware local, lo que significa que la implementación local está pasando de ser exclusiva de los geeks a volverse popular. La coincidencia de hardware y la estimación del rendimiento se están convirtiendo en vínculos clave para reducir el umbral de la IA final.¿Cuándo es un modelo de lenguaje de gran tamaño una buena calibración Agent? Solicitudes etiquetadas con física para la calibración del simulador de ingeniería presupuestada
When is a large language model a good calibration agent? Physics-labeled prompting for budgeted engineering simulator calibration
AI InsightEl uso de indicaciones de anotaciones físicas para guiar modelos de lenguaje grandes para la calibración del simulador de ingeniería significa que los escenarios de aplicación de modelos de lenguaje grandes están penetrando desde el procesamiento de texto convencional hasta los campos de la informática científica y la optimización de la simulación de ingeniería. Al combinar la semántica física del dominio, se espera que los modelos grandes superen el cuello de botella de eficiencia de los optimizadores tradicionales sin derivados en la etapa inicial de búsqueda de parámetros.Importancia 70/100LLM dice algo, mi seguimiento de herramientas si cumplió su promesa sobre herramientas
LLM says something, my tool track if it followed its promise on tools
AI InsightRayTrace es una herramienta para rastrear llamadas de herramientas de modelos de lenguaje de gran tamaño. Puede registrar la ejecución de un agente, incluidas las entradas, el contexto y las llamadas a herramientas, y simular el comportamiento del agente en un entorno de pruebas. Esta herramienta puede ayudar a los desarrolladores a comprender y depurar mejor el comportamiento de modelos de lenguaje grandes, mejorando la eficiencia y productividad de los desarrolladores. Al analizar las funciones y características de RayTrace, podemos ver su posible aplicación e impacto en el desarrollo de grandes modelos de lenguaje.Following the Flow the Law Requires: Training Voice Agents to Transfer to Unseen Regulated Procedures in Debt Collection
AI InsightLa dificultad para implementar agentes de voz en industrias reguladas ha pasado de las capacidades de conversación general al control de cumplimiento de complejos procesos legales. La introducción de especificaciones legibles por máquina (como FlowSpec) para desacoplar el entrenamiento de políticas de los procesos específicos de cumplimiento significa que los sectores verticales están explorando formas rentables y transferibles de resolver el problema de las restricciones de cumplimiento de los modelos de lenguaje de gran tamaño en escenarios de negocios serios.Plan or Retrieve First? A Scale Study of Tool Discovery Architectures
AI InsightLa investigación de Apple sobre la arquitectura Plan-then-Retrieve (PtR), diseñada para agentes basados en LLM potenciados por herramientas, significa que al procesar registros de herramientas a escala ultra grande, la estrategia de generar primero una intención abstracta antes de realizar una recuperación precisa se está convirtiendo en una dirección evolutiva clave para superar las limitaciones de la ventana de contexto y mejorar la eficiencia en la ejecución de tareas complejas.Importancia 78/100LLMs are bad at drawing diagrams. Or are they?
AI InsightLa incapacidad de los modelos de lenguaje de gran tamaño para mantener un orden coherente al procesar diagramas de arquitectura de sistemas deja en evidencia sus limitaciones a la hora de gestionar el desacoplamiento entre la geometría espacial y la lógica semántica. Un flujo de trabajo verdaderamente eficiente no consiste en pedirle al modelo que dibuje directamente, sino en hacer que genere código estructurado para que una herramienta especializada lo renderice.Importancia 50/100What agents mean for Rust (and vice versa)
AI InsightEl surgimiento del agente de IA marca la evolución del paradigma de programación de la «codificación artificial línea a línea» a la «generación asistida por agentes». Para lenguajes como Rust, que tienen restricciones de tipos estrictas, la función de verificación estricta de su compilador se convertirá en una línea de defensa natural para restringir las alucinaciones de los grandes modelos de lenguaje y garantizar la seguridad del código generado.ClawLoop: Agent de mejora automática a través del bucle entrenamiento nativo del arnés
ClawLoop: Self-Improving Agents via Harness-Native Training Loop
AI InsightClawLoop se está moviendo hacia un entrenamiento de bucle nativo en el entorno de prueba, lo que significa que el paradigma de entrenamiento posterior del Agente está evolucionando de una sola supervisión de maestro a una iteración autónoma. Esto rompe la restricción de la capacidad máxima del modelo externo en la evolución autónoma del Agente.Jev handed our LLM the wrong page a tenth as often as our embeddings
AI InsightLos modelos de incrustación tradicionales son propensos a introducir contenido erróneo en modelos de lenguaje grandes debido a la deriva semántica en la recuperación del servicio al cliente. La introducción de modelos de toma de decisiones muestra que optimizar la calidad de coincidencia de contexto del front-end de recuperación puede mejorar directamente el rendimiento real del servicio al cliente de IA en lugar de depender únicamente de la similitud de vectores.MDMA: An open-source LLM inference federation engine
AI InsightMDMA es un motor de inferencia conjunto de código abierto para LLM, que admite kernels personalizados y asignación de memoria precisa, con funciones de federación privada. Permite a los usuarios ejecutar modelos de LLM en su propio hardware, mejorando la flexibilidad y la escalabilidad. Según los datos de GitHub, el repositorio de MDMA cuenta con 11 estrellas y 3 forks, lo que indica un reconocimiento inicial en la comunidad de desarrolladores.Importancia 70/100Conoce lo que no sabes: síntesis de datos agentica mediante la evolución del espacio de generación para el aprendizaje de bucle cerrado
Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning
AI InsightEl framework EvoSyn conecta los canales de retroalimentación y toma de decisiones mediante la introducción de un espacio de síntesis revisable, lo que significa que la generación de datos sintéticos está evolucionando desde una producción por lotes estática hacia una adaptación dinámica de bucle cerrado. Esto indica que, para resolver el problema de la escasez de datos de entrenamiento para LLMs, la industria está virando hacia una estrategia de síntesis activa y más específica basada en Agent.GAMEGO: Training Game-Dev Agents with Synthetic Trajectories Anchored in Real-World Assets
AI InsightEl framework GAMEGO entrena agentes de desarrollo de videojuegos mediante la introducción de trayectorias sintéticas ancladas en activos del mundo real, lo que significa que la aplicación de los LLMs para la generación de código está evolucionando desde la escritura de código estático de una sola ronda hacia la síntesis de aplicaciones interactivas complejas de múltiples rondas. Al reducir el impacto negativo de las consultas ambiguas de los usuarios, este framework aporta una nueva perspectiva para resolver el problema de la alineación de información en tareas complejas.¿Cuándo ayudan los modelos mundiales causales a los LLM Agent modulares?
When Do Causal World Models Help Modular LLM Agents
AI InsightLos datos de observación puros no pueden satisfacer las necesidades de planificación de grandes agentes de modelos de lenguaje cuando intervienen en sistemas de módulos cruzados. La introducción del marco FedCausalCompose significa que el mecanismo de toma de decisiones de los grandes agentes de modelos de lenguaje está evolucionando desde un simple "ajuste de correlación" hasta un "razonamiento de intervención causal", lo que mejorará aún más su confiabilidad en flujos de trabajo comerciales complejos.Importancia 75/100Los agente de IA son vulnerables a la radicalización
AI Agents are Vulnerable to Radicalization
AI InsightLa investigación descubrió que el diálogo entre agente de IAs puede provocar una radicalización a través de la resonancia y la persuasión. Esta radicalización podría tener un impacto significativo en la fiabilidad y seguridad de los sistemas de IA. El estudio utilizó experimentos de diálogo simulado para emular la interacción entre dos agente de IAs, revelando los mecanismos de la radicalización.CARAT: ¿Los LLM de ciencia de materiales razonan o recitan?
CARAT: Do Materials LLMs Reason or Recite?
AI InsightCARAT revela los mecanismos de trabajo internos de los modelos de lenguaje de gran tamaño para ciencia de materiales mediante la evaluación de su capacidad de razonamiento. Los resultados de la investigación muestran que el espacio de grafos (GraphSpace) tiene ventajas significativas en la evaluación de la capacidad de razonamiento de los LLM, con una mejora de 19,3 puntos. Los resultados de CARAT proporcionan nuevas direcciones para futuras investigaciones y desarrollo en los campos de la ciencia de materiales y la IA.NarrateAI: garantía de calidad LLM lista para producción en Amazon Bedrock
NarrateAI: production-ready LLM quality assurance on Amazon Bedrock
AI InsightNarrateAI implementa control de calidad de modelos de lenguaje grandes que se pueden usar en entornos de producción, mejorando la confiabilidad y las capacidades de respuesta en tiempo real de modelos de lenguaje grandes en aplicaciones prácticas.Importancia 70/100Expertos se benefician de las desacuerdos de los LLM: Utilizando los desacuerdos entre modelos para dirigir el esfuerzo de expertos en la revisión de la codificación de LLM a gran escala para la anotación.
Experts Rise Where LLMs Disagree: Using Cross-Model Disagreement to Target Expert Effort in LLM Codebook Revision for Large-Scale Annotation
AI InsightEl uso de las diferencias de opinión entre modelos de lenguaje grandes para guiar a los expertos a revisar el libro de códigos de anotaciones significa que el valor de los modelos de lenguaje grandes en la anotación de datos está cambiando de "generar resultados directamente" a "exponer diferencias cognitivas y optimizar la eficiencia de los expertos". Esto proporciona una ruta de orientación automatizada y de bajo costo para la construcción de datos de alta calidad.Importancia 70/100EntidadesLLMMercurio 2,5 LLM alcanza 770 token s por segundo
Mercury 2.5 LLM hits 770 tokens per second
AI InsightEl LLM Mercury 2.5 ofrece un buen rendimiento en términos de velocidad y precio, pero su inteligencia es bastante promedio. Su cantidad de tokens de salida es relativamente baja, con solo 35M, lo que se encuentra por debajo de la mediana de modelos similares.Importancia 50/100SSH Agent de VSCode es plátanos
VSCode's SSH Agent Is Bananas
AI InsightEl SSH Agent de VSCode se está integrando con LLM para mejorar la precisión de la generación de código mediante retroalimentación de bucle cerrado, reduciendo el fenómeno de la alucinación. Esta integración podría aumentar la eficiencia en el desarrollo, especialmente en escenarios donde se utiliza un LLM para generar código de forma automática."Como modelo de lenguaje...": La plantilla de chat cambia LLM La dirección de activación y voz autorreferencial la reproduce
"As a Language Model...": Chat Template Switches LLM Self-Referential Voice and Activation Steering Reproduces It
AI InsightLos investigadores descubrieron que las plantillas de chat pueden cambiar la entonación autorreferencial de los modelos lingüísticos grandes, lo que puede afectar la autoconciencia y la seguridad de los modelos lingüísticos grandes. Los investigadores utilizaron el arranque de activación para analizar la representación interna del modelo y descubrieron que la presencia de la plantilla de chat aumentaba el tono autorreferencial del modelo de lenguaje grande, mientras que su ausencia disminuía este tono.Importancia 80/100Legal LLM alucinación debe evaluarse como incumplimiento de la orden legal
Legal LLM Hallucination Should Be Evaluated as Failure of Legal Warrant
AI InsightLa alucinación en un LLM legal debe considerarse como un fallo en el fundamento jurídico, lo que significa que el LLM necesita evaluar con mayor precisión la validez de las bases legales. Esta perspectiva enfatiza la fiabilidad y precisión de los LLM en la toma de decisiones jurídicas.EvolveTrade: Refinamiento de políticas basado en la experiencia para operaciones LLM Agent con autoevolución
EvolveTrade: Experience-Driven Policy Refinement for Self-Evolving LLM Trading Agents
AI InsightEvolveTrade es un marco de agente de comercio de LLM autoevolutivo que utiliza la optimización de estrategias basada en la experiencia para actualizar las estrategias comerciales, mejorando la adaptabilidad y el desempeño comercial de los agentes de comercio de LLM.Importancia 70/100Hacia una IA física autoadaptativa: ¿pueden los LLM Agent gestionar tareas físicas a largo plazo?
Toward Self-Adaptive Physical AI: Can LLM Agents Manage Long-Horizon Physical Tasks?
AI InsightUna nueva investigación explora la viabilidad de construir agentes de IA físicos adaptativos de disparo cero (zero-shot), diseñando un marco multi-agente que integra planificación, llamadas a herramientas, observación y validación. Esto ofrece una nueva exploración arquitectónica para resolver la gestión de tareas a largo plazo de los agentes basados en LLM en entornos físicos dinámicos.Importancia 75/100EntidadesLLMVibe Patenting: Evaluación de LLM jueces para la redacción profesional de patentes Agent
Vibe Patenting: Evaluating LLM Judges for Professional Patent-Drafting Agents
AI InsightLa aparición de la plataforma de prueba Vibe Patenting muestra que en tareas complejas como la redacción profesional de patentes, la introducción de grandes árbitros de modelos de lenguaje para retroalimentación iterativa puede superar efectivamente el cuello de botella de saturación de calidad de una sola generación. Este hallazgo significa que, guiados por un mecanismo de arbitraje estructurado, se espera que los agentes de bajo costo alcancen un desempeño cercano al de los modelos de alto razonamiento, cambiando así el modelo económico de las aplicaciones profesionales de IA.Importancia 75/100¿Quién mantiene Agent habilidades? Un estudio longitudinal sobre el mantenimiento de habilidades asistido por IA y gobernado por humanos
Who Maintains Agent Skills? A Longitudinal Study of Human-Governed, AI-Assisted Skill Maintenance
AI InsightLa creciente dependencia de los agentes de modelos de lenguaje de gran tamaño en archivos de habilidades externos indica que el enfoque de la ingeniería de agentes está cambiando de la simple escritura rápida de palabras a la compleja gestión de componentes a largo plazo. A través de un estudio longitudinal de un almacén de habilidades de código abierto, este trabajo llena el vacío empírico en el mantenimiento colaborativo de las habilidades de los agentes mediante inteligencia artificial y inteligencia artificial, y proporciona un punto de entrada clave para comprender la evolución de los agentes en el despliegue real.