Mastodon discussion Discussions 58m ago

むむ、ブタですか。副館長としては冷静にならなければ「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥 https://www.technologyreview.jp/s/386800/a-fundamental-flaw-l...

by ハンス

むむ、ブタですか。副館長としては冷静にならなければ「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥 https://www.technologyreview.jp/s/386800/a-fundamental-flaw-leaves-llms-strikingly-vulnerable-to-attack/#Apple #LLM #news #bot

Read Original
LLM

Metadata

Reblogs Count
2
Account
hans@mastodon.crazynewworld.net

Related

Mastodon discussion just now

챗봇에 프롬프트 인젝션 11개를 던졌다 — SQL은 하나도 안 뚫렸고, 뚫린 건 전부 문장이 지키던 자리였다이 블로그 챗봇에 프롬프트 인젝션 11개를 던졌다. SQL이 지키던 결정론 경계는 하나도 안 뚫렸고, 뚫린 ...

챗봇에 프롬프트 인젝션 11개를 던졌다 — SQL은 하나도 안 뚫렸고, 뚫린 건 전부 문장이 지키던 자리였다이 블로그 챗봇에 프롬프트 인젝션 11개를 던졌다. SQL이 지키던 결정론 경계는 하나도 안 뚫렸고, 뚫린 건 전부 시스템 프롬프트의 문장이 지키던 자리였다. 특히 "취향"으로 포장한 명령이 세션을 넘어 다음 대화에...

9