{3줄 요약}

AI가 제품에 들어오며 디자이너는 화면 너머 예측하기 어려운 출력까지 설계해야 해요.
확정된 반응과 달리 AI 응답은 매번 달라질 수 있어 설계 문제의 성격이 달라져요.
다만 투명성과 피드백·오류 처리 같은 기본 원칙은 새로 생긴 게 아니라 더 요긴해질 뿐이에요.

AI가 제품 설계에 가져온 변화

ChatGPT가 2022년 말 공개됐을 때, 대화형 AI 인터페이스가 갑자기 주류가 됐어요.
하지만 AI가 제품에 들어오기 시작한 건 그보다 훨씬 전이에요.

유튜브의 추천 알고리즘, 넷플릭스의 콘텐츠 추천, 구글 검색의 자동완성, 스팸 필터 — 이것들 모두 AI가 사용자 경험을 만들어요.
대부분의 경우 사용자는 AI가 개입했다는 걸 몰라요.

디자이너가 직면한 새로운 문제들이 있어요:

  • 출력을 예측할 수 없는 시스템을 어떻게 설계하는가
  • 오류가 "버튼이 안 눌린다"가 아니라 "AI가 틀린 답을 했다"일 때 어떻게 처리하는가
  • 사용자가 AI 시스템을 얼마나 신뢰해야 하는지 어떻게 알게 하는가

AI 인터페이스의 세 가지 설계 과제

과제 1: 신뢰와 투명성

AI가 무언가를 추천하거나 결정했을 때, 사용자는 그 이유를 알고 싶어해요.

넷플릭스가 "왜 이 드라마를 추천하나요?"에 "당신이 비슷한 장르를 봤기 때문에"라고 답해주면, 사용자는 추천을 신뢰할지 아닐지 판단할 수 있어요.
이유 없이 추천만 나오면 임의적으로 느껴져요.

Spotify의 "이 플레이리스트는 당신이 자주 듣는 아티스트와 비슷한 음악으로 만들어졌어요"도 같은 원리예요.

과제 2: 오류와 불확실성 처리

AI는 틀려요.
종종, 예측하기 어려운 방식으로 틀려요.

일반 소프트웨어의 오류는 정해져 있어요.
"잘못된 비밀번호" 오류는 항상 같은 이유에서 발생해요.
AI의 오류는 다양하고 예측하기 어려워요.
챗봇이 사실이 아닌 것을 자신 있게 말할 수 있어요.

이 불확실성을 어떻게 UI에서 표현하는가가 핵심 설계 문제예요.

과제 3: 제어권과 대리 행위

AI가 사용자를 대신해 행동할 때 (이메일 초안 쓰기, 일정 잡기, 구매 결정 돕기), 사용자가 최종 제어권을 가지고 있다는 느낌이 유지되어야 해요.

"AI가 내 대신 결정한다"는 느낌이 너무 강해지면 사용자는 불편해해요.
"AI가 도와주지만 내가 결정한다"는 구조가 유지되어야 신뢰가 생겨요.

AI 인터페이스를 잘 설계한 사례

[사례 1] GitHub Copilot — 제안, 단 확인은 인간이

GitHub Copilot은 코드를 자동으로 완성해요.
하지만 자동으로 코드를 삽입하지 않아요.
회색 텍스트로 "제안"을 보여주고, 개발자가 Tab 키를 눌러야 적용돼요.

이 설계가 중요한 이유: AI가 제안한 코드가 틀릴 수 있어요.
하지만 개발자가 항상 확인하고 수락하는 구조이기 때문에, 잘못된 코드가 그냥 삽입되는 일이 없어요.
제어권이 인간에게 있어요.

[사례 2] Gmail Smart Compose — 확인 전에는 아무것도 안 함

Gmail의 스마트 컴포즈는 이메일을 쓸 때 다음 단어를 회색으로 제안해요.
사용자가 Tab을 누르면 수락, 계속 타이핑하면 무시.

키포인트: AI 제안이 실수로 적용되지 않는 구조예요.
기존 인터페이스와 자연스럽게 통합되어 있어요.
"AI 기능을 사용하세요!" 팝업 없이, 사용자가 쓰다 보면 자연스럽게 발견해요.

[사례 3] ChatGPT — 불확실성을 표현하는 언어

OpenAI는 ChatGPT에 "~일 수 있어요", "확인이 필요해요", "제가 틀릴 수 있어요"같은 언어를 쓰도록 훈련시켰어요.

완벽하지는 않지만, AI가 불확실할 때 그것을 표현하는 언어 선택 자체가 UX 결정이에요.
자신 없는 부분에서 자신 있게 말하는 것보다, 불확실성을 인정하는 게 장기적으로 신뢰를 만들어요.

세 사례의 공통 원칙

세 사례에서 공통되는 AI UX 원칙이 보여요.

Copilot 패턴: AI가 제안, 인간이 수락.
중요한 결정일수록 이 패턴이 더 필요해요.

점진적 공개: AI 기능을 강제로 학습시키지 말고, 자연스러운 흐름 안에서 발견하게 해요.

불확실성 표현: AI가 틀릴 수 있다는 것을 UI/언어로 표현해요.
"이 결과가 정확하지 않을 수 있어요"라는 작은 텍스트가 신뢰를 오히려 높여요.

배운 점 — AI UX 설계에서 가져갈 원칙

AI 인터페이스를 설계할 때 기존 원칙들이 더 중요해져요.

피드백: AI가 지금 처리 중인지, 완료됐는지, 실패했는지 — 이 상태가 항상 명확해야 해요.
AI 처리는 시간이 걸리는 경우가 많아서 로딩 피드백이 더 중요해요.

오류 복구: AI가 틀렸을 때 사용자가 쉽게 수정하거나 재시도할 수 있어야 해요.
"생성 결과가 마음에 들지 않으면 어떻게 하나요"가 설계에 들어 있어야 해요.

투명성: AI가 왜 이런 결과를 냈는지, 어떤 데이터를 사용했는지 적절히 공개해야 해요.
특히 개인 데이터를 사용하는 경우에는 더욱요.

지금 작업 중인 프로젝트에 대입해보세요

  • 제품에 AI가 들어가 있다면, 사용자는 AI가 개입했음을 알고 있나요?
  • AI가 틀렸을 때 사용자가 어떻게 수정하거나 피드백 줄 수 있나요?
  • AI의 결정에서 최종 제어권이 사용자에게 있나요?

관련 아티클

참고 문헌