🐧 Linux

요즘 LLM에 대한 관심이 높아지면서 자체 서버에 LLM모델을 실행시키는 사람들이 많아졌다.LLM을 위해서는 그래픽카드가 필수인데 서버 측에 있는 그래픽카드가 구형이라 구형 드라이버에 맞게 설치를 해줘야 한다. 우선 Nvidia그래픽 드라이버 사이트로 들어가서 내 PC에 설치된 Driver를 검색하여 찾은 뒤 Linux버전으로 가져온다. https://www.nvidia.com/en-us/drivers/ Download The Latest Official NVIDIA DriversDownload the latest official NVIDIA drivers to enhance your PC gaming experience and run apps faster.www.nvidia.com   그리고 다운로드를..

개요 리눅스 시스템에서 내가 자주 쓰는 명령어들이 있다.대표적으로 현재 폴더의 내의 용량을 조회하는 'du -h --max-depth=1'과 특정 서버를 재시작하는 'sudo systemctl restart someService.service' 등이 있다.찾아보던 중 alias라는 방법과 스크립트 적용방법 등이 있다. 1. Alias로 설정하기 (간단한 방법) alias를 사용하면 특정 명령어에 대한 단축키를 설정할 수 있다. bash 수정vi ~/.bashrc # Bash 사용 시vi ~/.zshrc # Zsh 사용 시 파일 끝 줄에 다음 줄 추가alias dumd='du -h --max-depth=1'alias scr-s='sudo systemctl restart someService.servi..

ID : 2401302045Tag : #code-server #linux #ssl개요이전 작업에 이어 이번엔 Code-Server에 SSL 인증서를 적용하고자 한다.구성아래의 항목은 Code-Server에 SSL 인증서 적용을 위한 기본 구성사항이다.OS : Ubuntu 20.04.5 LTS (GNU/Linux 5.4.0-1100-raspi aarch64)Code-Server : v4.20.1Nginx : v1.18.0 (ubuntu)Proxy_pass 가 구성된 상태 [https://cajava.tistory.com/62] 를 먼저 진행해야 함.DNS의 TXT레코드를 적용할 수 있고 Value를 커스텀할 수 있는 도메인 주소 (가비아, CloudFlare 등)진행1. Certbot 설치우선 무료 SSL..

ID : 2401301657 Tag : #code-server #linux #nginx 개요 Code-Server를 호스팅 하고 나서 가장 큰 걸림돌이 되는 부분이 있었다. SSL이 적용이 되지 않을 경우 웹 뷰의 이용이 제한되는 것이다. 이를 해결하기 위해 여러 가지 삽질을 하였고 내가 발견한 가장 최적의 방법은 code-server를 nginx에 Proxy Pass를 적용한 후 SSL 인증서를 추가하는 것이다. 이번 포스팅에서는 Proxy_Pass를 적용하는 첫 번째 단계부터 진행하려고 한다. 구성 아래의 항목은 내가 작업을 진행하기 위해 사용한 환경 구성이다. 버전이 맞지 않더라도 아래의 항목이 이미 설치되어 있다는 가정 하에 작업을 진행할 예정이다. OS : Ubuntu 20.04.5 LTS (G..

개요 Code-server에서 작업을 하던 중 일부 기능들을 사용하지 못하는 이슈가 있었다(WevView 같은) 이를 해결하기 위해 SSL 적용을 해야 한다고 했는데 Code-Server에서 SSL 적용이 여간 쉬운 일이 아닌것 같았다. 따라서 로컬SSL을 적용하여 임시 HTTPS 를 사용하면 제한된 기능을 사용할 수 있지 않을까? 라는 생각을 하여 시도를 해봤고 결과적으로 문제 없이 작동 되는 것을 확인하였다. 진행 Code-Server에 임시 SSL 을 적용하기 위해 우선 SSL을 발급받아야 한다. OpenSSL을 먼저 설치하고 진행을 하도록 하자 sudo apt-get update sudo apt-get install openssl 원활한 작업을 위해 code-server의 config.yaml 디..

개요 Code-server 를 사용하던 중 Rest client 를 통해 API 테스트를 하려고 했다. 그런데 호출을 하고 나니 결과창에 아무것도 뜨지가 않았던 것이다. PC에서 했을때는 잘 됐었는데 Code-Server를 통해서 할때만 이랬던 것이다. 문제를 찾아보니 ssl이 적용되지 않은 상태로 Code-Server를 이용하게 될 경우 일부 기능을 사용하지 못한다고 했는데 그중에 하나가 WebView가 있는 것이다. Rest Client의 결과는 WebView를 통해 표시가 되는데 나의 경우엔 크롬 디버그 모드에서 'crypto.subtle‘ is not available so webviews will not work 라는 오류가 떴었다. 해결 해결 방법은 2가지가 있다. 첫 번째 방법은 ssl인증 ..