Introduction 기존의 연구들은 아래의 방법으로 모델을 선택한다고 합니다. 먼저 대규모 데이터셋으로부터 사전 학습 모델을 뽑아냅니다. 이후 fine-tuning 과정을 거칩니다. (1) hyperparameter를 다양하게 설정 (2) 가장 accuracy가 높은 모델을 채택 여기서 여러 모델의 결과를 앙상블하는 방법이 하나의 싱글 모델을 선택했을 경우보다 더 뛰어는 경우도 있지만, computational cost가 많이 발생한다는 단점이 존재합니다. 본 논문에서는 사전 학습된 대규모 모델을 fine-tuning하는 맥락에서 해당 접근법의 두 번째 단계를 재평가하는데 중점을 두고 있습니다. 이를 통해 추가 추론이나 메모리 비용 없이 많은 모델의 가중치를 평균화하는 "model soups"을 제안..
저장하기 import pickle data = {"1": 1, "2": 2, "3": 3} with open("/dataset/data.pickle","wb") as fw: pickle.dump(data, fw) 불러오기 import pickle with open("../dataset/data.pickle", "rb") as fr: data = pickle.load(fr)
먼저 라이브러리를 깔아줍니다 pip install keybert from keybert import KeyBERT import를 해주고 doc = """ As we age, our once youthful, healthy skin succumbs to an enzymatic imbalance that wears away the cellular network, resulting in skin thinning and aging. Combining the best of nature and cosmetic biotechnology, Bio-Active products are formulated with Enzymes that gently exfoliate the skin and stimulate regenera..
echo shell 을 했을 경우 /bin/sh가 나오면 그렇게 뜨더라구여 chsh 를 입력후 Enter the new value, or press ENTER for the default Login Shell [/bin/sh]: colon 뒤에 /bin/bash를 해주고 다시 계정으로 접속해주면 요렇게 bash로 뜬답니담
Can't find factory for 'entityLinker' for language English (en) 이 오류가 뜰땐! pip install spacy-entity-linker python -m spacy_entity_linker "download_knowledge_base" 그냥 지우고 다시 깝시다^^
특정 단어를 wikipedia에 검색했을 때 direct mapping으로 검색을 할 경우 wikipedia에는 모든 정보가 있지만 내가 검색한 title로 문서가 검색되지 않아 404가 너무 많이 뜨는 오류가 발생했다. 그래서 내가 A를 검색했을 때 Wikipedia에 존재하는 문서의 Title A'을 알려주는 Entity liniking model을 검색했더니 Spacy model이 나왔다. https://pypi.org/project/spacy-entity-linker/ spacy-entity-linker Linked Entity Pipeline for spaCy pypi.org 이대로 설치하면 되고 추가적으로 "en_core_web_md" 를 설치해야된다. https://spacy.io/model..
논문을 써야돼서 overleaf 양식을 지키는게 word보다 더 나을 거 같아서... 한글로 먼저 초안을 쓰려는데 kotex 오류가 발생했다 이렇게 넣으면 계속 이렇게 에러나고 \usepackage{kotex}의 위치를 바꿔도 계에에에속 오류가 나길래 chatGPT한테도 물어보고 bard한테도 물어봤는데 둘 다 똑같은 말을 하는데 똑같은 오류가 계속 나왔다... 결론부터 말하자면 TeX Live version을 기본값인 2022에서 2021로 바꾸면 된다! 이유는 Latex 버전때문이라고 한다.
