요즘 LLM에 대한 관심이 높아지면서 자체 서버에 LLM모델을 실행시키는 사람들이 많아졌다.LLM을 위해서는 그래픽카드가 필수인데 서버 측에 있는 그래픽카드가 구형이라 구형 드라이버에 맞게 설치를 해줘야 한다. 우선 Nvidia그래픽 드라이버 사이트로 들어가서 내 PC에 설치된 Driver를 검색하여 찾은 뒤 Linux버전으로 가져온다. https://www.nvidia.com/en-us/drivers/ Download The Latest Official NVIDIA DriversDownload the latest official NVIDIA drivers to enhance your PC gaming experience and run apps faster.www.nvidia.com 그리고 다운로드를..
'LLM' 태그의 글 목록