RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 59 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
공지	프로그래밍 갤러리 이용 안내 [97]	운영자	20.09.28	48191	65
2898088	[1인`1개] 배 민 30,000 원 짜리 아무나 써 ! [1]	ㅇㅇ(223.39)	23:17	5	0
2898087	내가 느끼기에 ㅆㅇㅆ가 프갤에서 머리 제일 좋다 [3]	발명도둑잡기(118.216)	23:11	20	0
2898086	템플 OS의 장점 [1]	발명도둑잡기(118.216)	23:03	10	0
2898082	악마의 라이센스 BSD, NSA가 BPF를 리눅스 백도어로 사용	발명도둑잡기(118.216)	22:38	14	0
2898080	지적당하는게 문제가 아니고 좆도모르는데 지적하니까 문제지 [1]	ㅆㅇㅆ(124.216)	22:31	19	0
2898079	옳치 옳치.. 이리온.. [4]	♥벼락부자냥덩♥	22:27	36	0
2898078	한국인은 일평생 집에 애쓴다. [1]	프갤러(175.197)	22:26	17	0
2898077	냥덩아 [2]	개멍청한유라	22:25	21	0
2898074	냥덩이가 다 잘못했으니 이제 그만해주세양 ㅠ ㅅ ㅠ [9]	♥벼락부자냥덩♥	22:12	39	0
2898070	우리는 모두가 서로를 사랑해야행❤ [2]	♥벼락부자냥덩♥	22:04	24	1
2898069	쟨 열등감에 찌들어있어서 지적 당하면 발작함 [2]	ㅇㅇ(124.48)	22:00	57	0
2898068	지금 미국주식 살 타이밍인듯	chironpractor	21:51	21	0
2898067	❤✨☀⭐⚡☘⛩나님 행복합니당⛩☘⚡⭐☀✨❤ [1]	♥벼락부자냥덩♥	21:50	22	0
2898066	나님 비밀 최초 공개⭐+ [1]	♥벼락부자냥덩♥	21:43	18	0
2898064	개발자용 따로 고객용 따로ㅋㅋㅋㅋㅋㅋ	프갤러(59.16)	21:41	22	0
2898061	냥덩이 괴롭히지 말고 썩~! 꺼지라냥! [2]	♥벼락부자냥덩♥	21:32	26	0
2898060	슬기도 한화네	발명도둑잡기(211.234)	21:25	20	0
2898059	뭣?!? 거기에?!? [8]	♥벼락부자냥덩♥	21:20	31	0
2898058	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2]	♥벼락부자냥덩♥	21:12	24	0
2898057	디버깅 관련 아는 형들 질문좀 [10]	ㅇㅇ(121.131)	21:08	54	0
2898054	교정이 너무 아프다 [2]	발명도둑잡기(59.6)	20:58	20	0
2898053	저녁 [1]	발명도둑잡기(59.6)	20:56	15	0
2898052	채터BBS 텔넷 지원, 규칙 해제!	파란빤스	20:54	11	0
2898051	헬마리오 [9]	♥벼락부자냥덩♥	20:51	32	0
2898050	꺼억 [1]	♥벼락부자냥덩♥	20:42	16	0
2898048	뿡야가 계속 뿡뿡한당 [1]	♥벼락부자냥덩♥	20:35	14	0
2898046	가을모기 이 미친새끼들 [8]	♥벼락부자냥덩♥	20:33	33	0
2898042	유튜브 영상 꾹 누르니까 2배속 되네	chironpractor	20:20	9	0
2898039	우원재 영상 요새 자주 올리네	chironpractor	19:41	29	0
2898036	AI에게 질문을 변경해서 소모되는 전력량을 구해 봤다.	프갤러(121.172)	19:29	20	0
2898035	저녁은 오코노미야끼에 맥주해야지	류류(118.235)	19:24	14	0
2898034	로리뷰지 빠는짤 올리니까 짤림 [2]	류류(118.235)	19:15	37	0
2898032	AI는 얼마나 많은 전기를 잡아 먹을까?	프갤러(121.172)	19:13	20	0
2898027	[대한민국] 연구주제 : AI 와 에너지	프갤러(121.172)	18:45	24	0
2898026	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	18:37	23	0
2898025	[대한민국] Truth Social 트럼프 부정선거 언급	프갤러(121.172)	18:19	18	0
2898024	계속 새로운거 공부하면 수명 연장된다는 것이 현실성없는 것이 [3]	프갤러(220.85)	18:08	65	2
2898023	EDA 표준 워크플로를 가르쳐준 그때 당시 교수님이 그립네.	ㅆㅇㅆ(124.216)	18:01	25	0
2898022	이런 글귀 어때보여? [1]	ㅁㅁ	17:51	37	0
2898021	옛날부터 생각하는데 데이터 프로그래밍 과제는	ㅆㅇㅆ(124.216)	17:44	26	0
2898020	이런 글귀 어때보여?	ㅁㅁ	17:33	30	0
2898018	최근에 충격먹은 몇가지 [2]	ㅆㅇㅆ(124.216)	17:13	60	0
2898017	옛날이면 자세하게 설명해줬는데 요새는 외주 받을때 설명을 자세히 [2]	ㅆㅇㅆ(124.216)	17:01	48	0
2898016	오늘부터 모바일 네이버좀 안들어가야겟다 [7]	헬마스터	16:26	64	0
2898015	졸업과제로 병신같은거 하나 만들엇는데 조언좀해줄사람? [4]	꿈의연봉(119.195)	16:24	62	0
2898013	상상 [1]	발명도둑잡기(39.7)	16:01	48	0
2898011	자산 부동산 쏠림과 수도권 과밀화가 위험한 이유 [6]	chironpractor	15:42	46	0
2898010	지금 보고 있는 영상이다 [2]	노력	15:10	40	0
2898009	아침 점심	발명도둑잡기(39.7)	15:04	18	0