클라이언트/ 서버/ 엔지니어 "게임 개발자"를 향한 매일의 공부일지

조금 전에 무척 어렵게 홈페이지 제작 실습을 마쳤다. 너무 어려워서 그냥 대충 하고 넘어가고 싶었지만 그래도 나중에 이런 식의 개발자 홈페이지를 만들 테니 틀은 익혀두는 것이 좋을 것 같았다.이번에는 이론 수업을 들어보겠다. 이 수업만 들으면 2주차 이론 학습을 마치게 된다.     이론 3 - 검색 엔진과 ChatGPT  새로운 정보를 접근하도록 만들어주는 템플릿이다.                     최신 정보도 이처럼 접근할 수 있다. 이 예제에서는 건강에 관한 책을 작성하는 질문을 해보았다.          이렇게 책을 작성하는 기초적이 초안 정도는 작성해볼 수 있다.     이론 4 - 도구를 활용하는 ChatGPT                 API 키 입력하는 내용은 그 외에 여러 PPT가..

이번에는 프롬프트 템플릿에 대해서 공부해 보겠다. 이것까지만 하고 쉬어야지.     이론 2 - 프롬프트 템플릿       크롬 브라우저를 통해 확장 프로그램을 설치할 수 있다.     링크로 들어가 이와 같은 프로그램을 추가하면 된다.     ChatGPT에 필요한 확장 프롬프트를 제공받을 수 있다. 그런 다음에 들어가면 메인 화면이 바뀐 것을 볼 수 있다.             이것을 사용하면 상단에 올라오는 글을 작성하는 것이다. 블로그를 사용할 때 방문자 수를 늘리는 등으로 유도할 수 있다. 주제도 넣어서 그에 맞게 글을 작성하는 실습을 진행할 수도 있다.                 이렇게 다양한 부분에 활용해볼 수 있다.     퀴즈 4 - 프롬프트    최적의 프롬프트는 각 언어 모델마다 다..

2주 차 수업을 시작해 본다. 수업 두 개만 듣고 아침 공부를 마치려고 한다. 1주 차 수업이 많이 어려웠지만 2주 차는 왠지 더 할만할 것 같다.    이론 1 - 프롬프팅의 한계       프롬프팅은 위의 3가지에 근간을 두고 있다.     언어 모델의 규모가 크므로 학습하는데 막대한 비용이 소모된다. 파라미터 70개로 추가되었을 때 원화로 30억원이 넘게 든다. 따라서 데이터가 추가되었다고 할지라도 이를 언어 모델로 새로 만드는 건 쉽지 않다.최신 지식에 대해 물었을 때는 답변을 할 수 없다고 말하기도 한다.      언어 모델 안에서 텍스트를 나누는 단위를 토큰이라고 한다. 입력 토큰의 수가 2배가 되면 계산 비용이 4배가 된다. 그렇기에 입력 토큰으로 사용할 수 있는 최대수가 제한되어 있다. 사..

오늘의 공부를 본격적으로 시작해보겠다. 이번에는 Chain of Thought라는 다소 생소한 단원을 배우게 된다.     이론 3 - Chain of Thought  복잡한 추론에 대해서 낮은 성능을 보인다. 원래는 9개가 되어야 하는데 답을 제대로 맞추지 못한다. 언어 모델은 왜 이러한 문제를 풀지 못할까?언어모델은 숫자, 기호에 대한 문제를 잘 이해하지 못한다.      사람이 하는 방식을 따라하자는 의도에서 만들어냈다. 시스템 1은 직관이고, 시스템 2는 이성으로 느리고 복잡한 작업에 대해 논리적으로 해결한다.      멘탈 시뮬레이션은 미리 그려보며 생각하는 것이다. 이러한 과정이 사람이 복잡한 사고를 추론해나가는 요소이다.      Chain of Thought에서는 답변에 중간중간의 풀이 과..

두 번째 학습을 시작해 본다. 이번에는 대화형 인지 모델에서 Few-show이라는 프롬프팅을 배우게 된다.     이론 2 - Few show 프롬프팅  대규모 언어모델에서 많이 활용되는 능력 중에 하나이다.      이러한 것을 Few-shot이라고 한다. 지시 안에서 명료하게 설정하여 어떤 과제를 수행해야 하는지 알려준다. 5개의 예제를 사용하면 5 shot이 된다.      실제로는 말로 표현하기 어려운 지시 사항의 경우 잘못된 결과를 낼 수 있다. 따라서 예시를 입력하여 정확한 대답이 되도록 유도한다.      우리는 대화를 할 때 많은 것들을 생략할 수 있다. 하지만 언어 모델과 대화할 때는 대충 말하면 응답이 잘못 채워질 수 있다. 다양한 주제의 상황을 고려해서 질문을 만드는 것이 중요하다. ..

오늘부터 본격적으로 프롬프트 엔지니어링에 대해서 공부하려고 한다. 어젯밤부터는 공부가 별로 하고 싶지 않아 제목만 써놓고 놀았고 오늘 새벽에도 일어나지 않고 이불속에서 빈둥거리다가 7시 반이 되어서야 겨우 일어났다. 그래도 지금부터 공부해도 늦지 않았다는 것을 알고 있다.난 내가 하고 싶어야 무엇이든 잘하는 사람이라 동기부여가 될 때까지 기다리는 편이다. 이제 공부하고 싶은 마음이 생겼으니 지금부터 본격적으로 해볼 것이다.     이론 1 - 프롬프트 디자인            대화형 생성 AI는 이처럼 두 가지로 구성된다.                이러한 것을 감정 분석이라고 하는데 이를 언어 모델로 풀어볼 수 있다. 빈칸에 들어갈 단어를 찾기 위해서는 사회적인 이해가 필요하다.            ..