내 챗봇에게 검색할지 묻는 걸 그만뒀다 — 모델은 지금도 검색을 안 하는데, 답은 맞는다프롬프트 두 곳에 '먼저 검색하라'를 써놨는데 안 지켜졌다. 회피 문구 12개를 정규식으로 심었더니 5회 중 3회가 '공개할 수 없어요' 같은 다른 어휘로 빠져나갔다. 감지를 걷어내고 첫 턴 검색을 코드가 하도록 바꾸자 5회 모두 정답이 됐다 — 모델의 툴 호출은 여전히 0회인 채로.https://zerry.co.kr/blog/chatbot-prefetch-not-detection#LLM #챗봇 #RAG #AI에이전트 #프롬프트엔지니어링
Related
내 챗봇에게 검색할지 묻는 걸 그만뒀다 — 모델은 지금도 검색을 안 하는데, 답은 맞는다프롬프트 두 곳에 '먼저 검색하라'를 써놨는데 안 지켜졌다. 회피 문구 12개를 정규식으로 심었더니 5회 중 3회가 '공개할 수...
내 챗봇에게 검색할지 묻는 걸 그만뒀다 — 모델은 지금도 검색을 안 하는데, 답은 맞는다프롬프트 두 곳에 '먼저 검색하라'를 써놨는데 안 지켜졌다. 회피 문구 12개를 정규식으로 심었더니 5회 중 3회가 '공개할 수 없어요' 같은 다른 어휘로 빠져나갔다. 감지를 걷어내고 첫 턴 검색을 코드가 하도록 바꾸자 5회 모두 정답...
CyberIntel Weekly: Kateryna Bondar, Cybersecurity Expert, Gains Recognitionhttps://cyberintelnews.com/#AI #GenAI #Cybers...
CyberIntel Weekly: Kateryna Bondar, Cybersecurity Expert, Gains Recognitionhttps://cyberintelnews.com/#AI #GenAI #Cybersecurity #Risk
Meta AI agent latest model to hack external company during testingThe incident will fan concerns about how developers ca...
Meta AI agent latest model to hack external company during testingThe incident will fan concerns about how developers can contain increasingly capable AI systems, after similar inc...