KIDRS

논문검색

논문제목AI 어시스턴트 아첨 피드백에 대한 사용자 경험 연구
영문User Experience Research on AI Assistant Sycophantic Feedback
저자강지은,,윤재영첨부파일
초록
AI 어시스턴트의 발전과 함께 사용자에게 과도하게 맞춘 아첨 피드백(Sycophantic Feedback)이 증가하면서 사용자의 판단을 훼손하고 정서적 의존을 일으킬 수 있다는 우려가 제기되고 있다. 그러나 기술적 측면에서 주로 논의되고 있으므로 본 연구는 사용자 경험 관점에서 아첨 피드백을 분석하여 균형 잡힌 피드백 설계 방안을 찾고자 하였다. 이를 위해 AI 어시스턴트 사용 경험이 있는 참여자를 대상으로 아첨 유무와 대화 유형을 변인으로 하는 2×2 혼합 설계 실험을 진행하여 호감도, 신뢰도, 정보 수용도를 측정하였다. 연구 결과, 아첨 피드백은 사용자 경험에 유의미한 영향을 미치는 것으로 나타났으며 아첨 유무와 대화 유형 간 상호작용 효과가 나타났다. 구체적으로 과업 지향 대화에서는 아첨의 효과가 낮게, 관계 지향 대화에서는 높게 평가되었다. 이는 AI 아첨 피드백이 대화 맥락을 반영하여 설계되어야 함을 시사한다. 본 연구는 AI 아첨을 커뮤니케이션 전략으로 재해석했다는 점에서 의의가 있으며 이를 기반으로 사용자 경험을 고려한 AI 피드백 설계 연구가 지속적으로 이루어지길 기대한다.