오늘도 역시 개발일지
게시글 주소: https://orbi.kr/00078736973
사실 어제 오늘은 별 진도를 못 나갔어요.
그 놈의 토큰 문제 떄문에 뭐가 되는 게 없네요!
좀 더 이해하기 쉽게 쓰려고해요.
우선 당장에 해결해야 할 과제들을 먼저 소개할게요.
1. 토큰 사용량 최적화 작업
2. 표본 데이터 양 문제
3. ingest 과정에서 최종 산출물에 LaTex형식의 문제와 해설을 포함시켜야 하는 문제
4. 생성 문항의 난이도 문제
5. Query 과정 코드화 문제
6. rules과 그게 아닌 것을 명백히 구분하는, 폴더 구획화 문제
7. 로컬 모델 설치 및 권한 부여 및 정보 동기화 및 모델 소통창 개선 문제
8. 규칙의 분리 문제
이렇게 8가지가 당장에 제 눈에 들어온 문제입니다.
다만, 오늘은 새 노트북이 배송와서 각종 파일 설치 및 데이터 이전을 위해 거의 대부분의 시간을 소비했네요.
3번 문제에 대해서는 이 과정을 포함시키는 것 자체로는 토큰 사용량이 추가로 필요하나, 장기적으로 보았을 때, 문제 생성시 절약할 수 있는 토큰이 훨씬 많을 것이기에 이 문제를 해결하고자 ingest, agents 파일을 수정하였습니다. 물론, 기존의 문제와 해설의 사진은 무결성 검증을 위해 그대로 남겨두기로 했습니다.
이게 내적인 변화의 끝입니다... 이제부터는 이론적이거나 외부적인 요인들에 대한 것입니다. opencode와 lmstudio를 통해 Qwen이라는 로컬 모델 3개를 운용하는 방안을 세웠습니다. 다만, 실제로 사용해보니 지금 사용할 수 있는 모델 중에 가장 강력할 것으로 예상되었던 Qwq 32B 양자화 Qwen 모델이 제 노트북으로는 좀 무리인 것 같더군요. 그래서 일단은 Qwen2.5 14B Q5와 Qwen2.5 7B Q5 이렇게 2개만 쓰기로 했습니다. 또한 Claude도 사용할 것 같네요.
GIt허브를 통해서 버전 관리를 진행할 계획도 세웠습니다.
적절한 플러그인을 결합하여 각 agents들의 성능을 비약적으로 끌어올릴 수 있을 것 같다는 생각을 하게 되었고 좀 더 조사를 하고자 합니다.
노올랍게도.. 이게 끝입니다. 감사함다~
0 XDK (+0)
유익한 글을 읽었다면 작성자에게 XDK를 선물하세요.
-
인증 못보신분들 쪽지주세요 1 0
전부 저장했어요
-
물소라서미안해 7 0
내여자들아미안해
-
어 인정
-
슬프구나 2 1
도태의 삶이란
-
이제는 다시 돌려주실 때도 되었잖습니까 철새도 언젠가 다시 되돌아오는 법인데 어찌...
-
ㅇㅈ 8 0
ㅇ.
-
ㅅㅂ 나만 빼고 잘생겼어 ㅅㅂ 3 1
나만 못생겼어 ㅅㅂ
-
무료과외 해주실 분 없나요? 11 1
작년까지 무료과외 받았었는데 선생이 밥먹으러 간다 하고 1년째 안오네요 이거
-
왜 내글은 반응안해줘 1 0
혹시 모르니까 캡쳐해두셈
-
넌 오르비해라 ㅋㅋㅋ 1 1
-
파릇파릇한 애기 시절 ㅇㅈ 14 2
귀엽죠? 중1때임
-
외모 3컷 받고싶으면 개추 2 3
-
나는 겜친 오프 나갔을 때 0 1
진짜 너무 신기하게 생겼다고 도/촬당해서 그걸로 조리돌림 존나 당한 적 있음
-
폰이 죽을려 하는데 5 0
ㄹ렉걸리면서 4퍼여서 그런가
-
진짜 못생김이 뭔지 0 1
보여줘야 아나
-
나중에 진짜 인증함 0 0
설약 합격하면
-
내 인증 본사람들 9 2
하량이 오로라빼고 다 사라짐
-
만족했지? 9 3
뭐임마
-
대치 러셀 0 0
오늘 대치 러셀 등록했는데 전대실모 필수라는 말만 들어서요 오메가도 전과목...
-
자신감이 결여되는 하루 0 0
내 얼굴은 대체 왜
-
-
죽어도 한이 없다 2 1
설표 얼굴 봤다
-
설표 인증 못보신분들 5 5
걱정하지마세요 제가 저장해놨어요
-
HiBST 아시는 분 계신가요 0 0
현 고2 09이고 기초과학연구원에서 7월 27일 - 8월 7일 동안 진행되는...
-
벌써 국장 마이너스 300이다 제발; 뜯길만큼뜯겼는데 내가 세금까지뜯겨야되냐
-
반수생 수학 공부방향 조언 0 0
현재 공통 기출 거의다 끝내가고 확통은 스블 듣고 있습니다. 확통스블 괜찮아서...
-
30초 24 3
-
F5연타중 3 0
설표
-
-1명! 2 1
은테까지
-
-
님들 인증지금올리지머셈 4 1
그거 들어갔다가 그분 못보묜 나 잠못잠
-
친구가 금연하고 4키로빼라는데 2 0
그게쉽노 ㅅ발 그럼 사람새끼 된다는디
-
이건 재탕아님 새거임!! 14 0
-
안놀라운 사실 1 1
설표 얼굴사진은 레어에 박제돼있음
-
설표야 빨리해줘요 0 0
고고
-
ㅇㅈ 3 0
보지Χ세여
-
ㅇㅈ 4 2
-
내 ㅇㅈ 보는 방법 6 1
인스타 맞팔
-
지인들은 귀신바가지 같다는데 여기서는 엄청 빨린 인증사진 28 4
오르비가 착하긴 착해 9년 전 20살때 사진이긴 한데
-
ㅇㅈ안하는이유 5 1
온라인에서 위험한 ㅇㅈ안하고 옯만추를 하면 됨
-
원래 인증 여러번 하면 안됨 5 1
ㅇㅇ
-
아 설마.... 3 2
20명 안되겠지?
-
??? 넌 의대 가라 4 2
이런 댓글 실제로 있나..
-
ㅇㅈ반응 7 3
-
1시 5분까지 20명이 댓글달면 인증 29 4
중복 노인정
-
새삼 2 1
진짜도태남이뭔지보여줄때가
-
얘 닮은거 찾음 1 1
-
뉴비 맞팔구 0 1
모든글에 잡담태그담
-
담배끊고살뺄게요 ㅅㅂ 2 1
-
ㅇㅈ 10 2
명
멋지다한국어로 써있는.. 거 맞죠?
물론이죠!교수님
ㅡ,.ㅡ