RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 172 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이제는 의미 없어진 것 같은 시상식은?	운영자	25/12/01	-	-
AD	루틴 ON! 운동 찐템! 지금 할인 중	운영자	25/11/27	-	-
2898969	나는 살면서 지나간 날이 그립진 않던데 그리운 애들 많구만	ㅆㅇㅆ(124.216)	10.27	87	0
2898968	☆:.｡. o(≧▽≦)o .｡.:☆ [1]	♥벼락부자냥덩♥	10.27	89	0
2898967	개발은 진짜 타고난 지능 좋아야 하는 직업이네 [3]	프갤러(116.45)	10.27	241	0
2898964	웹디자인은 AI 떄문에 진짜 이미 멸망한 것 같은데	프갤러(220.70)	10.27	126	0
2898960	인터럽트가 함수 실행이랑 똑같음 [3]	재현	10.27	70	0
2898957	냥냥⭐+	♥벼락부자냥덩♥	10.27	106	0
2898950	세상. 그리고 나.	프갤러(110.8)	10.27	82	0
2898947	저장용 [2]	♥벼락부자냥덩♥	10.27	97	0
2898946	나님 월 마일리지 100 근접 ㅇㅅㅇ [1]	♥벼락부자냥덩♥	10.27	116	0
2898945	기술면접 과제가 내가 전혀 써본 적 없는 언어로 나오네 ㅋㅋ [1]	ㅇㅇ	10.27	146	0
2898944	이제 사람 좀 빠지네. 호흡에 집중할 수 있겠어 [1]	프갤러(27.171)	10.27	131	0
2898942	부천역 bj들 내쫒는 분위기네	프갤러(211.210)	10.27	99	0
2898941	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2]	♥벼락부자냥덩♥	10.27	112	0
2898939	호흡속에서 질소와 산소와 이산화탄소를 느낀다. [2]	프갤러(27.175)	10.27	160	1
2898938	스쿼트다. 근육의 힘을 키워 지하철 가속도를 버텨낸다.	프갤러(27.175)	10.27	70	0
2898936	내가 항상 자신감이 있는 이유 [2]	ㅆㅇㅆ(124.216)	10.27	132	0
2898935	지하철 앉아도 자리가 좁으면 피곤하네 [5]	프갤러(42.25)	10.27	138	0
2898934	지하철에서도 최대한 명상으로 뇌 에너지 보충해야한다. [1]	프갤러(42.25)	10.27	116	0
2898933	회사에서 틈틈히 휴식을 취해야한다. [2]	프갤러(42.25)	10.27	152	0
2898932	현업자라고 다 잘할거라고 생각하면 오산입니다 [3]	루도그담당(58.239)	10.27	163	0
2898931	나 학생 포폴 MVC랑 자바 백엔드 만들어줄 수 있음	ㅆㅇㅆ(124.216)	10.27	119	0
2898930	내가 코딩하면서 밥 벌어먹을 걱정이 없다고 딱 느낀게 얼마전에 [2]	ㅆㅇㅆ(124.216)	10.27	157	0
2898928	ㅆㅇㅆ또 까불길래 다 신고 넣고옴	ㅇㅇ(118.235)	10.27	104	5
2898927	요즘도 학점 중요하냐? [2]	루도그담당(58.239)	10.27	159	0
2898926	객관적으로보면 망한인생인데 왜 난 자신감이 있을까 [7]	ㅆㅇㅆ(124.216)	10.27	163	0
2898924	나님 탈갤합니당.. [5]	♥벼락부자냥덩♥	10.27	154	0
2898921	4년차 개발자 이직하는거 잘하는걸까? [4]	프갤러(106.102)	10.27	216	0
2898919	유람선에 세금 낭비한 오세훈 잡아다 배 째서 장기 팔아야된다. [4]	프갤러(218.154)	10.27	143	1
2898917	책을 잃어버렸는데 아무리 찾아도 안 보입니다.	넥도리아(119.195)	10.27	91	0
2898915	현재 고등학생입니다 도와주세요 [7]	프갤러(211.200)	10.27	129	0
2898911	코테 이런건 결과가 늦게 나올 이유가 있음? [4]	ㅇㅇ(106.101)	10.27	132	0
2898910	우리나라 국사교과서는 이영훈 교수님이 감수해야함 [9]	chironpractor	10.27	154	1
2898908	아래 초보가 바이브 코딩하기 어렵다는 애야 답변해줌 [4]	ㅆㅇㅆ(124.216)	10.27	221	0
2898906	형들 ㅡㅡ.. ai 종류에 대해 질문...있습니다 개초보입니당.. [7]	프갤러(106.241)	10.27	144	0
2898903	채터BBS 웹터미널 드뎌등장	파란빤스	10.27	119	0
2898902	그림 그려봤는데 어떰? [1]	ㅁㅁ	10.27	139	0
2898901	고졸일수록 개발자 목숨걸어야되는 이유	ㅇㅇ	10.27	142	0
2898899	국장 오르는 이유는 간단한데 [1]	ㅇㅇ	10.27	161	0
2898893	Ai가 개발 해주면 좋지	ㅆㅇㅆ(124.216)	10.27	86	0
2898892	AI로 개발은 점점쉬워지고 뜌따이들도 조만간 중급만큼 개발하게될걸? [4]	프갤러(14.51)	10.27	157	0
2898890	나 메인 드라이브 SSD 256gb인데 턱없다 진짜 [12]	ㅆㅇㅆ(124.216)	10.27	144	0
2898889	스토커 유동의 줄기찬 신고로 아이피 정지먹어서 귀찮게 수동으로 바꾸고옴 [1]	ㅆㅇㅆ(124.216)	10.27	210	0
2898888	나님 끙야 느김;; [2]	♥벼락부자냥덩♥	10.27	73	0
2898885	병걸렸다는 기사에 모든댓글이 다 선플 [7]	헬마스터	10.27	148	0
2898880	과제인데 너무 어려워서 대강 방향성만 잡도록 도와주시면 감사하겠습니다.. [13]	PpPpPp	10.27	151	0
2898878	[대한민국] 돈에 환장해 나라를 팔고 있는 정치권	프갤러(121.172)	10.27	89	0
2898873	유람선에 눈깔 뒤집혀서 지하철 증차 안한 오세훈 대가리를 잘라 [1]	프갤러(218.154)	10.27	202	0
2898870	이런 도시락 어때보임? [3]	ㅁㅁ	10.27	139	0
2898869	11일날 했던 한국의 미국 vs 중국 편입 투표 결과 공개 [3]	chironpractor	10.27	141	0
2898868	내가 신호줬을 때 미국 주식 산 프붕이들 재미 보고 있재? [2]	chironpractor	10.27	97	0