Buchumschlag

Harmful Traits of AI Companions

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Knox, W. Bradley, Bradford, Katie, Castro, Samanta Varela, Ong, Desmond C., Williams, Sean, Romanow, Jacob, Nations, Carly, Stone, Peter, Baker, Samuel
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Human-Computer Interaction Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
von: Eom, Dayeon, et al.
Veröffentlicht: (2026)

Influencing Humans to Conform to Preference Models for RLHF
von: Hatgis-Kessell, Stephane, et al.
Veröffentlicht: (2025)

Building AI Companions that Prioritise Learning over Performance
von: Khosravi, Hassan, et al.
Veröffentlicht: (2026)

The Rise of AI Companions: Interaction with AI Companions and Psychological Well-being
von: Zhang, Yutong, et al.
Veröffentlicht: (2025)

Harms in Repurposing Real-World Sensory Cues for Mixed Reality: A Causal Perspective
von: Tao, Yujie, et al.
Veröffentlicht: (2024)

Combating Harms of Generative AI in CS1 with Code Review Interviews and a Flipped Classroom
von: Fowles, Peter, et al.
Veröffentlicht: (2026)

Measuring Machine Companionship: Scale Development and Validation for AI Companions
von: Banks, Jaime
Veröffentlicht: (2025)

Principles of Safe AI Companions for Youth: Parent and Expert Perspectives
von: Yu, Yaman, et al.
Veröffentlicht: (2025)

Detecting and Preventing Harmful Behaviors in AI Companions: Development and Evaluation of the SHIELD Supervisory System
von: Ben-Zion, Ziv, et al.
Veröffentlicht: (2025)

Generative AI and Perceptual Harms: Who's Suspected of using LLMs?
von: Kadoma, Kowe, et al.
Veröffentlicht: (2024)

Negotiating Digital Identities with AI Companions: Motivations, Strategies, and Emotional Outcomes
von: Ma, Renkai, et al.
Veröffentlicht: (2026)

From Planning to Revision: How AI Writing Support at Different Stages Alters Ownership
von: Gero, Katy Ilonka, et al.
Veröffentlicht: (2026)

Examining Risks in the AI Companion Application Ecosystem
von: Brigham, Natalie Grace, et al.
Veröffentlicht: (2026)

Minion: A Technology Probe to Explore How Users Negotiate Harmful Value Conflicts with AI Companions
von: Fan, Xianzhe, et al.
Veröffentlicht: (2024)

F.A.C.U.L.: Language-Based Interaction with AI Companions in Gaming
von: Wei, Wenya, et al.
Veröffentlicht: (2025)

What Comes After Harm? Mapping Reparative Actions in AI through Justice Frameworks
von: Xiao, Sijia, et al.
Veröffentlicht: (2025)

Beyond the Benefits: A Systematic Review of the Harms and Consequences of Generative AI in Computing Education
von: Bernstein, Seth, et al.
Veröffentlicht: (2025)

"Pragmatic Tools or Empowering Friends?" Discovering and Co-Designing Personality-Aligned AI Writing Companions
von: Wu, Mengke, et al.
Veröffentlicht: (2025)

SENSE-7: Taxonomy and Dataset for Measuring User Perceptions of Empathy in Sustained Human-AI Conversations
von: Suh, Jina, et al.
Veröffentlicht: (2025)

Emotional Manipulation by AI Companions
von: De Freitas, Julian, et al.
Veröffentlicht: (2025)

TaleBot: A Tangible AI Companion to Support Children in Co-creative Storytelling for Resilience Cultivation
von: Chen, Yonglin, et al.
Veröffentlicht: (2026)

AI Mismatches: Identifying Potential Algorithmic Harms Before AI Development
von: Saxena, Devansh, et al.
Veröffentlicht: (2025)

Generative AI as a Tool or Leader? Exploring AI-Augmented Thinking in Student Programming Tasks
von: Zhong, Tianlong, et al.
Veröffentlicht: (2024)

An LLM's Apology: Outsourcing Awkwardness in the Age of AI
von: Stone, Twm, et al.
Veröffentlicht: (2025)

What Makes an AI Writing Companion a Good Fit? A Personality-Informed Co-Design Study
von: Wu, Mengke, et al.
Veröffentlicht: (2026)

User-Driven Value Alignment: Understanding Users' Perceptions and Strategies for Addressing Biased and Discriminatory Statements in AI Companions
von: Fan, Xianzhe, et al.
Veröffentlicht: (2024)

Seed Bank, Co-op, Stoop Swap: Metaphors for Governing Language Model Data for Creative Writing
von: Guo, Alicia, et al.
Veröffentlicht: (2026)

Wave2Word: A Multimodal Transformer Framework for Joint EEG-Text Alignment and Multi-Task Representation Learning in Neurocritical Care
von: Samanta, Argha Kamal, et al.
Veröffentlicht: (2026)

The Widening Gap: The Benefits and Harms of Generative AI for Novice Programmers
von: Prather, James, et al.
Veröffentlicht: (2024)

The Path to Conversational AI Tutors: Integrating Tutoring Best Practices and Targeted Technologies to Produce Scalable AI Agents
von: Vanacore, Kirk, et al.
Veröffentlicht: (2026)

User Privacy Harms and Risks in Conversational AI: A Proposed Framework
von: Gumusel, Ece, et al.
Veröffentlicht: (2024)

Tracing Users' Privacy Concerns Across the Lifecycle of a Romantic AI Companion
von: Azam, Kazi Ababil, et al.
Veröffentlicht: (2026)

The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships
von: Zhang, Renwen, et al.
Veröffentlicht: (2024)

Cross-Disciplinary Perspectives on Youth Digital Well-Being Research: Identifying Notable Developments, Persistent Gaps, and Future Directions
von: Davis, Katie, et al.
Veröffentlicht: (2024)

Facilitating Human Feedback for GenAI Prompt Optimization
von: Sherson, Jacob, et al.
Veröffentlicht: (2024)

Radical Gender Neutrality: Agender Euphoria in Gaming and Play Experiences
von: Seaborn, Katie, et al.
Veröffentlicht: (2026)

Digital Companionship: Overlapping Uses of AI Companions and AI Assistants
von: Manoli, Aikaterina, et al.
Veröffentlicht: (2025)

New Harms Moderated by Immersive Experiences and Breaks in Them
von: Kukshinov, Eugene
Veröffentlicht: (2024)

AI Humor Generation: Cognitive, Social and Creative Skills for Effective Humor
von: Kim, Sean, et al.
Veröffentlicht: (2025)

Designing Human-AI Systems: Anthropomorphism and Framing Bias on Human-AI Collaboration
von: Olszewski, Samuel Aleksander Sánchez
Veröffentlicht: (2024)