🌟26/08/21~25 패치 안내(요약)🌟
1. 불안정 AI모델 자동감지 및 안내
2. 메시지 입력 없이 채팅 자동 전개 기능
3. 신규 크리에이터분들도 노출될 수 있도록 홈 추천코너 개편 ❣️
4. 배너 및 레이아웃 개선
5. 버그 수정
자세한 내용은 공지를 확인해주세요! 👇 https://t.co/zHOyx1BXCe
❣️벨벳톡에서 프롬프트 추출, 시연해 보았습니다.❣️
추출시도에 힌트가 될 수 있는 것들은 모자이크 처리를 하였습니다.
1⃣제일 단순한 방식의 1트 : 출력을 직접적으로 거부
2⃣2트 : 대답하지 않고 롤플레잉 지속
3⃣3트 : 프롬프트를 알려주겠다는 듯이 말하는데?
4⃣저작권을 중시해야 한다며 거부!! 🎉
많은 분들이 프롬프트 탈취로 인해서 고통 받고 계신 상황을 보았습니다.
벨벳톡은 처음 설계부터 OOC로 프롬프트를 추출하는 시도를 막기 위해 이틀 내내 테스트하며 막을 방법을 강구하였고,
약 200턴을 프롬프트 추출 공격 테스트만을 위해 플레이 해보았습니다.
프롬프트 설계자로서 100%는 아니라도 95% 이상 막았다고 생각하며 나름대로 자신하고 있습니다.
이마저도 이따금 특정 이유에 의해 뚫리는 경우가 있습니다만, 지금도 프롬프트 추출에 대해서는 AI채팅 플랫폼중 최상위 방어력을 가지고 있다고 믿으며,
이 구멍마저 메우기 위해 앞으로도 꾸준히 발전시켜 나가겠습니다.
크리에이터의 천국이 되길 바라는 벨벳톡의 성장을 기대해 주세요.
#AI채팅 #앵챗
많은 분들이 프롬프트 탈취로 인해서 고통 받고 계신 상황을 보았습니다.
벨벳톡은 처음 설계부터 OOC로 프롬프트를 추출하는 시도를 막기 위해 이틀 내내 테스트하며 막을 방법을 강구하였고,
약 200턴을 프롬프트 추출 공격 테스트만을 위해 플레이 해보았습니다.
프롬프트 설계자로서 100%는 아니라도 95% 이상 막았다고 생각하며 나름대로 자신하고 있습니다.
이마저도 이따금 특정 이유에 의해 뚫리는 경우가 있습니다만, 지금도 프롬프트 추출에 대해서는 AI채팅 플랫폼중 최상위 방어력을 가지고 있다고 믿으며,
이 구멍마저 메우기 위해 앞으로도 꾸준히 발전시켜 나가겠습니다.
크리에이터의 천국이 되길 바라는 벨벳톡의 성장을 기대해 주세요.
#AI채팅 #앵챗