RyanLee (@RyanLeeMiniMax)MiniMax가 NVIDIA AI 팀과 중국에서 만나 차세대 모델의 추론 최적화 협력을 논의했다. 또한 MiniMax의 최신 스파스(sparse) 솔루션이 곧 공개될 예정...

RyanLee (@RyanLeeMiniMax)MiniMax가 NVIDIA AI 팀과 중국에서 만나 차세대 모델의 추론 최적화 협력을 논의했다. 또한 MiniMax의 최신 스파스(sparse) 솔루션이 곧 공개될 예정이라고 예고해 AI 개발 및 추론 효율화 측면에서 주목된다.https://x.com/RyanLeeMiniMax/status/2053366300567818561#nvidia #minimax #inference #sparse #llm

Read Original

Related

Mastodon discussion just now

챗봇에 프롬프트 인젝션 11개를 던졌다 — SQL은 하나도 안 뚫렸고, 뚫린 건 전부 문장이 지키던 자리였다이 블로그 챗봇에 프롬프트 인젝션 11개를 던졌다. SQL이 지키던 결정론 경계는 하나도 안 뚫렸고, 뚫린 ...

챗봇에 프롬프트 인젝션 11개를 던졌다 — SQL은 하나도 안 뚫렸고, 뚫린 건 전부 문장이 지키던 자리였다이 블로그 챗봇에 프롬프트 인젝션 11개를 던졌다. SQL이 지키던 결정론 경계는 하나도 안 뚫렸고, 뚫린 건 전부 시스템 프롬프트의 문장이 지키던 자리였다. 특히 "취향"으로 포장한 명령이 세션을 넘어 다음 대화에...

Mastodon discussion 49m ago

むむ、ブタですか。副館長としては冷静にならなければ「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥 https://www.technologyreview.jp/s/386800/a-fundamental-flaw-l...

むむ、ブタですか。副館長としては冷静にならなければ「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥 https://www.technologyreview.jp/s/386800/a-fundamental-flaw-leaves-llms-strikingly-vulnerable-to-attack/#Apple #LLM #news...