Buchumschlag

Examining Risks in the AI Companion Application Ecosystem

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Brigham, Natalie Grace, Qin, Lucy, Kohno, Tadayoshi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computers and Society Human-Computer Interaction
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Analyzing the AI Nudification Application Ecosystem
von: Gibson, Cassidy, et al.
Veröffentlicht: (2024)

SoK (or SoLK?): On the Quantitative Study of Sociodemographic Factors and Computer Security Behaviors
von: Wei, Miranda, et al.
Veröffentlicht: (2024)

"Violation of my body:" Perceptions of AI-generated non-consensual (intimate) imagery
von: Brigham, Natalie Grace, et al.
Veröffentlicht: (2024)

Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability
von: Eom, Dayeon, et al.
Veröffentlicht: (2026)

Tracing Users' Privacy Concerns Across the Lifecycle of a Romantic AI Companion
von: Azam, Kazi Ababil, et al.
Veröffentlicht: (2026)

Emotional Manipulation by AI Companions
von: De Freitas, Julian, et al.
Veröffentlicht: (2025)

Towards an AI Buddy for every University Student? Exploring Students' Experiences, Attitudes and Motivations towards AI and AI-based Study Companions
von: Moreno, Judit Martinez, et al.
Veröffentlicht: (2026)

Digital Companionship: Overlapping Uses of AI Companions and AI Assistants
von: Manoli, Aikaterina, et al.
Veröffentlicht: (2025)

AI Risk Atlas: Taxonomy and Tooling for Navigating AI Risks and Resources
von: Bagehorn, Frank, et al.
Veröffentlicht: (2025)

"Unlimited Realm of Exploration and Experimentation": Methods and Motivations of AI-Generated Sexual Content Creators
von: Mink, Jaron, et al.
Veröffentlicht: (2026)

Developing Story: Case Studies of Generative AI's Use in Journalism
von: Brigham, Natalie Grace, et al.
Veröffentlicht: (2024)

Chatting with Confidants or Corporations? Privacy Management with AI Companions
von: Chiu, Hsuen-Chi, et al.
Veröffentlicht: (2026)

Student Engagement with GenAI's Tutoring Feedback: A Mixed Methods Study
von: Jacobs, Sven, et al.
Veröffentlicht: (2025)

Unilateral Relationship Revision Power in Human-AI Companion Interaction
von: Lange, Benjamin
Veröffentlicht: (2026)

Open AI-Romance with ChatGPT, Ready for Your Cyborg Lover?
von: Xie, Qin
Veröffentlicht: (2024)

Materiality and Risk in the Age of Pervasive AI Sensors
von: Sloane, Mona, et al.
Veröffentlicht: (2024)

Better Than "Better Than Nothing": Design Strategies for Enculturated Empathetic AI Robot Companions for Older Adults
von: Pedersen, Isabel, et al.
Veröffentlicht: (2025)

How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images
von: Ding, Michelle L., et al.
Veröffentlicht: (2026)

Artificial Data, Real Insights: Evaluating Opportunities and Risks of Expanding the Data Ecosystem with Synthetic Data
von: Timpone, Richard, et al.
Veröffentlicht: (2024)

Designing KRIYA: An AI Companion for Wellbeing Self-Reflection
von: Zhu, Shanshan, et al.
Veröffentlicht: (2026)

Not a Silver Bullet for Loneliness: How Attachment and Age Shape Intimacy with AI Companions
von: Ciriello, Raffaele, et al.
Veröffentlicht: (2026)

Understanding Teen Overreliance on AI Companion Chatbots Through Self-Reported Reddit Narratives
von: Namvarpour, Mohammad, et al.
Veröffentlicht: (2025)

Exploring Organizational Readiness and Ecosystem Coordination for Industrial XR
von: Akbaba, Hasan Tarik, et al.
Veröffentlicht: (2026)

GenAI Voice Mode in Programming Education
von: Jacobs, Sven, et al.
Veröffentlicht: (2025)

User Privacy Harms and Risks in Conversational AI: A Proposed Framework
von: Gumusel, Ece, et al.
Veröffentlicht: (2024)

The Measurement Imbalance in Agentic AI Evaluation Undermines Industry Productivity Claims
von: Meimandi, Kiana Jafari, et al.
Veröffentlicht: (2025)

From Risk Avoidance to User Empowerment in AI Mental Health Crisis Support
von: Kaveladze, Benjamin, et al.
Veröffentlicht: (2026)

Towards Trustworthy AI: Characterizing User-Reported Risks across LLMs "In the Wild"
von: Li, Lingyao, et al.
Veröffentlicht: (2025)

Deco: Extending Personal Physical Objects into Pervasive AI Companion through a Dual-Embodiment Framework
von: Jiang, Zhihan, et al.
Veröffentlicht: (2026)

Understanding Adolescents' Perceptions of Benefits and Risks in Health AI Technologies through Design Fiction
von: Lee, Jamie, et al.
Veröffentlicht: (2025)

Frictionless Love: Associations Between AI Companion Roles and Behavioral Addiction
von: Agarwal, Vibhor, et al.
Veröffentlicht: (2026)

Computing for Community-Based Economies: A Sociotechnical Ecosystem for Democratic, Egalitarian and Sustainable Futures
von: Robinson, Kwame Porter, et al.
Veröffentlicht: (2025)

When Your Boss Is an AI Bot: Exploring Opportunities and Risks of Manager Clone Agents in the Future Workplace
von: Hu, Qing, et al.
Veröffentlicht: (2025)

Worker Discretion Advised: Co-designing Risk Disclosure in Crowdsourced Responsible AI (RAI) Content Work
von: Qian, Alice, et al.
Veröffentlicht: (2025)

RoboLinker: A Diffusion-model-based Matching Clothing Generator Between Humans and Companion Robots
von: Tang, Jing, et al.
Veröffentlicht: (2025)

AI as We Describe It: How Large Language Models and Their Applications in Health are Represented Across Channels of Public Discourse
von: Zhou, Jiawei, et al.
Veröffentlicht: (2025)

Identity-related Speech Suppression in Generative AI Content Moderation
von: Proebsting, Grace, et al.
Veröffentlicht: (2024)

Culling Misinformation from Gen AI: Toward Ethical Curation and Refinement
von: Khatiwada, Prerana, et al.
Veröffentlicht: (2025)

Beyond Categories of Caste: Examining Caste Bias and Morality in Text-to-Image AI Models
von: Singh, Divyanshu Kumar, et al.
Veröffentlicht: (2026)

Locating Risk: Task Designers and the Challenge of Risk Disclosure in RAI Content Work
von: Qian, Alice, et al.
Veröffentlicht: (2025)