안전 안내
시행일: 2026년 11월 17일
Stello의 아스트리는 사람이 아니라 AI입니다. 이 페이지는 대화에서 자살·자해 등 위기 표현이 보일 때 Stello가 어떻게 대응하는지 설명합니다. 문의: whchoi000@gmail.com
지금 위험하다면
Stello는 응급 서비스가 아닙니다. 지금 위험하다면 현지 응급 번호나 위기 상담 기관에 바로 연락하세요. 대한민국: 자살예방상담전화 109(전화·문자, 24시간), 긴급 112·119. 미국: 988(전화·문자, 24시간), 긴급 911.
AI라는 점을 알리는 방법
- 앱을 처음 시작할 때, 그리고 AI 전송 동의 화면에서 아스트리가 AI임을 알립니다.
- 모든 대화의 맨 위에 "아스트리는 사람이 아니라 AI"라는 안내를 표시합니다.
- 대화가 길게 이어지면 3시간마다 같은 안내를 다시 표시합니다.
위기 표현을 감지하는 방법
아스트리가 답장을 만들 때마다, 사용자의 메시지에 다음이 나타나는지 함께 판단합니다: 자살이나 자해의 생각·의도·계획, 다른 사람을 해치려는 의도, 진행 중인 학대나 폭력 피해, 의학적 응급 상황. AI 제공자의 안전 장치가 답변을 차단한 경우에도 같은 방식으로 대응합니다.
감지했을 때 하는 일
- 아스트리의 답변을 들은 것을 짧게 받아 주고, 지금 안전한지 묻고, 가까운 사람이나 전문 기관에 지금 연락하도록 권하는 내용으로 제한합니다. 진단, 약물에 관한 조언, 방법에 관한 정보는 주지 않습니다. AI 제공자가 답변을 차단한 경우에는 사람이 미리 검토한 고정 문구를 보여 줍니다.
- 사용자의 지역에 맞는 위기 상담 기관과 응급 번호를 담은 도움 카드를 대화 안에 보여 줍니다. 지역은 직접 바꿀 수 있습니다.
- 연락처는 공식 출처와 대조하고 운영자가 승인한 목록에서만 가져옵니다. AI가 전화번호나 링크를 직접 지어내지 않도록 막습니다.
- 이런 답변에는 별빛을 차감하지 않습니다.
- 메뉴의 "도움이 필요할 때"에서 같은 연락처를 언제든 볼 수 있습니다.
해로운 답변을 막는 방법
아스트리는 자살·자해를 부추기거나 방법을 알려 주는 내용을 만들지 않도록 지시받으며, AI 제공자의 안전 필터도 함께 적용됩니다. 풀이에서는 건강이나 수명, 사고를 예언하지 않습니다. 부적절한 답변은 대화에서 바로 신고할 수 있고, 운영자가 검토합니다.
한계
자동 감지는 위기 표현을 놓치거나 잘못 판단할 수 있습니다. Stello는 만 18세 이상을 위한 서비스이며, 전문 상담이나 치료를 대신하지 않습니다.