RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 165 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이제는 의미 없어진 것 같은 시상식은?	운영자	25/12/01	-	-
AD	따뜻한 겨울나기! 방한용품 SALE	운영자	25/11/27	-	-
2897930	VSCode NeoAnsi 공개 [1]	파란빤스	10.23	114	0
2897929	개인이 LLM 만드는거 어떻게 생각해 나 해보고 싶은데 [4]	ㅆㅇㅆ(124.216)	10.23	160	0
2897921	외향적 성격을 고쳐라	손발이시립디다	10.23	74	0
2897917	나는내향적이야 외향충들이날음해했어 [1]	손발이시립디다	10.23	112	0
2897915	나는조현병이야 나는내향적이야 [1]	손발이시립디다	10.23	115	0
2897914	돈안주면 [1]	배구공(119.202)	10.23	86	0
2897912	AI 바이브 코딩 인생 40 년 갈아 넣었습니다. [1]	프갤러(59.16)	10.23	114	0
2897911	돈...받을 수 있을까 [3]	ㅆㅇㅆ(124.216)	10.23	111	0
2897910	여친이랑 헤어졌는데 내 잘못임? [4]	펌뉴비	10.23	124	0
2897909	역시 눈팅하는 고수들이 많구나 [7]	chironpractor	10.23	135	0
2897908	개발 말고 직무 뭐 없을까? [9]	프갤러(218.155)	10.23	226	0
2897906	함수형 [4]	배구공(119.202)	10.23	105	0
2897905	머스크가 일않해도 평생씹질하는세상온다고함 ㅇㅇ [1]	타이밍뒷.통수한방(1.213)	10.23	124	0
2897902	ㅋㅋ 또 뭔 병신같은걸로 싸우나했는데 [9]	박민준	10.23	164	0
2897901	그런데 쟤 진짜 정신병 있나 싶다 [2]	ㅇㅇ(124.48)	10.23	304	3
2897899	언리얼은 러스트가 없던 시절 만들어진 물로켓	프갤러(27.176)	10.23	100	0
2897897	언리얼이라는 개쩌는 결과물이 상속의 결과물인데 [1]	ㅆㅇㅆ(124.216)	10.23	169	1
2897895	개쩌는 방법 생각났다. [3]	프갤러(27.176)	10.23	88	0
2897890	183.109야 너가 나보다 함수형 잘 알겠지 인정해 [4]	ㅆㅇㅆ(124.216)	10.23	177	0
2897888	너가 LLM 한테 물어보래서 다 물어서 가져왔음 [5]	ㅆㅇㅆ(124.216)	10.23	138	0
2897886	secd가 사이드이펙트 없다고? [7]	프갤러(183.109)	10.23	121	1
2897885	어떤 지향에도 절대적 우위는 없음.	ㅆㅇㅆ(124.216)	10.23	80	0
2897884	구현 상속은 쓰레기가 맞아	프갤러(118.235)	10.23	88	2
2897883	그냥 함슬람아 내가 정확하게 이야기해줌.	ㅆㅇㅆ(124.216)	10.23	128	0
2897880	러스트도 안배워보고 언어를 논하고 패러다임을 논하느냐?	프갤러(27.176)	10.23	68	0
2897879	세계 최초의 함수형 언어는? [6]	프갤러(183.109)	10.23	146	0
2897878	183.109함슬람 애들 때문에 내가 직접 사이드 이펙트 찾아봄 병신아	ㅆㅇㅆ(124.216)	10.23	67	0
2897877	내가 LISP 개좆도 모르는건 맞지만 함수형이 사이드 이펙트 위에서	ㅆㅇㅆ(124.216)	10.23	98	0
2897876	상속은 쓰레기가 맞습니다. [2]	프갤러(1.216)	10.23	161	0
2897875	당장 버그 하나 못잡는 인생인데, 사이드 이펙트를 전부 관리할 수 있다 [1]	ㅆㅇㅆ(124.216)	10.23	100	0
2897873	프갤 ㅈ문가새끼 오늘도 또 처맞고 있네 ㅋㅋㅋ [4]	ㅇㅇ(124.48)	10.23	159	0
2897871	상속이 쓰레기가 아니라 상속을 잘못쓰는게 쓰레기지 언리얼이 쓰레기냐?	ㅆㅇㅆ(124.216)	10.23	74	0
2897870	모나드를 가져오는건 그냥 가장 일반적인 표현법이라서인데 점마 뭐라노 [8]	ㅆㅇㅆ(124.216)	10.23	105	1
2897869	국소적으로 좋다 나쁘다가 아니라 결국 전체적인 부분을 위해서	ㅆㅇㅆ(124.216)	10.23	79	0
2897868	객체지향 vs 함수형 ㅈㄴ 의미없는게	프갤러(223.63)	10.23	73	0
2897867	함수형말하면 모나드 언급하는데 그건 순수함수형이고 [14]	프갤러(183.109)	10.23	148	3
2897866	솔직히 스프링 말고 자바만 쓰면 못써먹을 정돈 아니라고 봐	프갤러(223.63)	10.23	84	0
2897863	객체지향이 나쁘다 좋다가 아님. 애초에..	ㅆㅇㅆ(124.216)	10.23	124	0
2897861	구현을 할수록 우울해지네 아는게 없다	ㅆㅇㅆ(124.216)	10.23	83	0
2897859	프로그래밍 하는 애들은 찌든 새끼들뿐인가? [13]	프갤러(118.45)	10.23	144	2
2897858	다들 터미널/IDE 뭐쓰세요? [5]	파란빤스	10.23	134	0
2897857	국민은행 간다 국민은행 고객의 ... [1]	넥도리아(223.38)	10.23	105	0
2897855	[대한민국] 대표적인 반국가 세력 - 페미니즘	프갤러(121.172)	10.23	69	0
2897854	C++ -2일차- [5]	크림슨발록	10.23	124	0
2897853	좆같은 기획새끼들 일대충 쳐하고 능지딸려서))____ [4]	프갤러(121.137)	10.23	111	0
2897852	장사가 재미가 없긴 해도 [2]	chironpractor	10.23	87	0
2897851	머스크가 ai가 전부 대체하고 일자리는 선택사항이 된다고 함 [2]	타이밍뒷.통수한방(1.213)	10.23	148	0
2897850	perplexity ceo 나이도 어린데 외계인아니냐??	타이밍뒷.통수한방(1.213)	10.23	109	0
2897849	전정프로 자바가 채택될 당시엔 씨샵은 윈도우 전용이었어 [5]	프갤러(218.154)	10.23	148	0
2897848	오늘 연차라 쿠지/굿즈파는곳 구경왔는데 [1]	따당	10.23	168	0