LLMs show a “highly unreliable” capacity to describe their own internal processes
- •• Pesquisa da Anthropic analisa a introspecção em LLMs.
- •• Alguns LLMs mostram sinais de 'auto-consciência'.
- •• Falhas na introspecção são comuns entre os modelos.
Por que importa: Compreender as limitações dos LLMs é crucial para desenvolvedores e pesquisadores, pois impacta a confiança em suas aplicações e decisões baseadas em IA. A introspecção falha pode levar a erros significativos em contextos críticos.