오늘도 역시 개발일지
게시글 주소: https://orbi.kr/00078736973
사실 어제 오늘은 별 진도를 못 나갔어요.
그 놈의 토큰 문제 떄문에 뭐가 되는 게 없네요!
좀 더 이해하기 쉽게 쓰려고해요.
우선 당장에 해결해야 할 과제들을 먼저 소개할게요.
1. 토큰 사용량 최적화 작업
2. 표본 데이터 양 문제
3. ingest 과정에서 최종 산출물에 LaTex형식의 문제와 해설을 포함시켜야 하는 문제
4. 생성 문항의 난이도 문제
5. Query 과정 코드화 문제
6. rules과 그게 아닌 것을 명백히 구분하는, 폴더 구획화 문제
7. 로컬 모델 설치 및 권한 부여 및 정보 동기화 및 모델 소통창 개선 문제
8. 규칙의 분리 문제
이렇게 8가지가 당장에 제 눈에 들어온 문제입니다.
다만, 오늘은 새 노트북이 배송와서 각종 파일 설치 및 데이터 이전을 위해 거의 대부분의 시간을 소비했네요.
3번 문제에 대해서는 이 과정을 포함시키는 것 자체로는 토큰 사용량이 추가로 필요하나, 장기적으로 보았을 때, 문제 생성시 절약할 수 있는 토큰이 훨씬 많을 것이기에 이 문제를 해결하고자 ingest, agents 파일을 수정하였습니다. 물론, 기존의 문제와 해설의 사진은 무결성 검증을 위해 그대로 남겨두기로 했습니다.
이게 내적인 변화의 끝입니다... 이제부터는 이론적이거나 외부적인 요인들에 대한 것입니다. opencode와 lmstudio를 통해 Qwen이라는 로컬 모델 3개를 운용하는 방안을 세웠습니다. 다만, 실제로 사용해보니 지금 사용할 수 있는 모델 중에 가장 강력할 것으로 예상되었던 Qwq 32B 양자화 Qwen 모델이 제 노트북으로는 좀 무리인 것 같더군요. 그래서 일단은 Qwen2.5 14B Q5와 Qwen2.5 7B Q5 이렇게 2개만 쓰기로 했습니다. 또한 Claude도 사용할 것 같네요.
GIt허브를 통해서 버전 관리를 진행할 계획도 세웠습니다.
적절한 플러그인을 결합하여 각 agents들의 성능을 비약적으로 끌어올릴 수 있을 것 같다는 생각을 하게 되었고 좀 더 조사를 하고자 합니다.
노올랍게도.. 이게 끝입니다. 감사함다~
0 XDK (+0)
유익한 글을 읽었다면 작성자에게 XDK를 선물하세요.
-
분명 a형은 이과용 국어 시험지고 b형은 문과형 국어 시험지인거늘 왠지 내가...
-
학교서 포하는 애들도 많더라 1 0
-
폰으로 수능공부 하고 싶은데 4 0
도움되는 앱 없을까 과목불문 폰 밖에 없을 때 공부하고 싶어서
-
강준호버리고 김강민갈까 0 0
끌리노
-
우리학교오르비언웂갯지 1 0
다수시파이터던대
-
이럴때만 단결력 좋은거 봐바 2 2
얼탱이 없네
-
덕코구걸4일차 6 2
어제분들도모두사랑합니다 덕분에 레어하나생길듯
-
고추바사삭이 될 것 같음 1 0
일단 모르겠고 술이 땡기는데 참겠음 슈발
-
카드 대금 곧 나가고 장 상태 보니까 당분간 상방 막힌 상태로 변동성 심할거 같아서...
-
확통러입니다 대성 김범준 스블 수2는 거의 다 들었고 수1은 들을지 말지...
-
작년 5모 수학도 어려운듯.. 2 0
15 22 ㅈㄴ 레전드급 킬러고 28 29킬러.. 30도 킬러에 가까운 준킬러.....
-
ㅅㅅ하고싶다 1 2
나도수시가하고싳엇어ㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠ
-
xx에서저를찾으면 1 0
사인해드림 돈이업ㄱ어서밥은못사드립니다 ㅠㅡㅠ 저 14원잇음
-
영어 <<얘 은근 골칫거린데 1 0
평범한 재능 기준 인강만 듣고 영어 1 ㄱㄴ인가요??(기본기만 있으면)
-
야 쿼티 4 0
사랑한다
-
수학 7월 커리 ㅊㅊ좀 1 0
수학 공통 기생집4점 + 수특 확통 기생집 2,3,4점 7월 안에 끝낼 수 있겠죠?...
-
나 찾으면 1 0
-
수능공부가 질린걸까나 4 2
갑자기 제2외국어 공부 마려움 그래서 히라가나 다외움
-
인증 못보신분들 쪽지주세요 1 0
전부 저장했어요
-
근데 기하만 넣어놨음 0 0
내가 기하거든 ㅋㅋ
멋지다한국어로 써있는.. 거 맞죠?
물론이죠!교수님
ㅡ,.ㅡ