Buchumschlag

Understanding the Effects of Iterative Prompting on Truthfulness

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Krishna, Satyapriya, Agarwal, Chirag, Lakkaraju, Himabindu
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

In-Context Explainers: Harnessing LLMs for Explaining Black Box Models
von: Kroeger, Nicholas, et al.
Veröffentlicht: (2023)

On the Trade-offs between Adversarial Robustness and Actionable Explanations
von: Krishna, Satyapriya, et al.
Veröffentlicht: (2023)

More RLHF, More Trust? On The Impact of Preference Alignment On Trustworthiness
von: Li, Aaron J., et al.
Veröffentlicht: (2024)

On the Impact of Fine-Tuning on Chain-of-Thought Reasoning
von: Lobo, Elita, et al.
Veröffentlicht: (2024)

Faithfulness vs. Plausibility: On the (Un)Reliability of Explanations from Large Language Models
von: Agarwal, Chirag, et al.
Veröffentlicht: (2024)

On the Hardness of Faithful Chain-of-Thought Reasoning in Large Language Models
von: Tanneru, Sree Harsha, et al.
Veröffentlicht: (2024)

Certifying LLM Safety against Adversarial Prompting
von: Kumar, Aounon, et al.
Veröffentlicht: (2023)

Manipulating Large Language Models to Increase Product Visibility
von: Kumar, Aounon, et al.
Veröffentlicht: (2024)

Confronting LLMs with Traditional ML: Rethinking the Fairness of Large Language Models in Tabular Classifications
von: Liu, Yanchen, et al.
Veröffentlicht: (2023)

How Post-Training Reshapes LLMs: A Mechanistic View on Knowledge, Truthfulness, Refusal, and Confidence
von: Du, Hongzhe, et al.
Veröffentlicht: (2025)

Interpretability Needs a New Paradigm
von: Madsen, Andreas, et al.
Veröffentlicht: (2024)

Towards Interpretable Soft Prompts
von: Patel, Oam, et al.
Veröffentlicht: (2025)

Towards Uncovering How Large Language Model Works: An Explainability Perspective
von: Zhao, Haiyan, et al.
Veröffentlicht: (2024)

MedSafetyBench: Evaluating and Improving the Medical Safety of Large Language Models
von: Han, Tessa, et al.
Veröffentlicht: (2024)

Evaluating Adversarial Robustness of Concept Representations in Sparse Autoencoders
von: Li, Aaron J., et al.
Veröffentlicht: (2025)

Learning from Failures: Understanding LLM Alignment through Failure-Aware Inverse RL
von: Patel, Nyal, et al.
Veröffentlicht: (2025)

OpenXAI: Towards a Transparent Evaluation of Model Explanations
von: Agarwal, Chirag, et al.
Veröffentlicht: (2022)

Follow My Instruction and Spill the Beans: Scalable Data Extraction from Retrieval-Augmented Generation Systems
von: Qi, Zhenting, et al.
Veröffentlicht: (2024)

Towards Understanding the Robustness of Sparse Autoencoders
von: Saiyed, Ahson, et al.
Veröffentlicht: (2026)

Learning Recourse Costs from Pairwise Feature Comparisons
von: Rawal, Kaivalya, et al.
Veröffentlicht: (2024)

The Disagreement Problem in Explainable Machine Learning: A Practitioner's Perspective
von: Krishna, Satyapriya, et al.
Veröffentlicht: (2022)

Self-Improving Language Models with Bidirectional Evolutionary Search
von: Xu, Guowei, et al.
Veröffentlicht: (2026)

Temporal Sparse Autoencoders: Leveraging the Sequential Nature of Language for Interpretability
von: Bhalla, Usha, et al.
Veröffentlicht: (2025)

Quantifying Generalization Complexity for Large Language Models
von: Qi, Zhenting, et al.
Veröffentlicht: (2024)

Fact, Fetch, and Reason: A Unified Evaluation of Retrieval-Augmented Generation
von: Krishna, Satyapriya, et al.
Veröffentlicht: (2024)

The Alignment Auditor: A Bayesian Framework for Verifying and Refining LLM Objectives
von: Bou, Matthieu, et al.
Veröffentlicht: (2025)

Toward Understanding Unlearning Difficulty: A Mechanistic Perspective and Circuit-Guided Difficulty Metric
von: Cheng, Jiali, et al.
Veröffentlicht: (2026)

Understanding Before Reasoning: Enhancing Chain-of-Thought with Iterative Summarization Pre-Prompting
von: Zhu, Dong-Hai, et al.
Veröffentlicht: (2025)

Self-Correcting Large Language Models: Generation vs. Multiple Choice
von: Rahmani, Hossein A., et al.
Veröffentlicht: (2025)

Polarity-Aware Probing for Quantifying Latent Alignment in Language Models
von: Sadiekh, Sabrina, et al.
Veröffentlicht: (2025)

A Survey of Multilingual Reasoning in Language Models
von: Ghosh, Akash, et al.
Veröffentlicht: (2025)

Discriminative Feature Attributions: Bridging Post Hoc Explainability and Inherent Interpretability
von: Bhalla, Usha, et al.
Veröffentlicht: (2023)

Insights from the Inverse: Reconstructing LLM Training Goals Through Inverse Reinforcement Learning
von: Joselowitz, Jared, et al.
Veröffentlicht: (2024)

Towards Operationalizing Right to Data Protection
von: Java, Abhinav, et al.
Veröffentlicht: (2024)

A Study on the Calibration of In-context Learning
von: Zhang, Hanlin, et al.
Veröffentlicht: (2023)

Do Students Debias Like Teachers? On the Distillability of Bias Mitigation Methods
von: Cheng, Jiali, et al.
Veröffentlicht: (2025)

EvoLM: In Search of Lost Language Model Training Dynamics
von: Qi, Zhenting, et al.
Veröffentlicht: (2025)

The Hard Positive Truth about Vision-Language Compositionality
von: Kamath, Amita, et al.
Veröffentlicht: (2024)

The Effect of Human v/s Synthetic Test Data and Round-tripping on Assessment of Sentiment Analysis Systems for Bias
von: Lakkaraju, Kausik, et al.
Veröffentlicht: (2024)

Understanding the Prompt Sensitivity
von: Liu, Yang, et al.
Veröffentlicht: (2026)