C/C++에서 Perfetto를 사용한 Android 분석 1. 들어가며 Perfetto 분석이 필요하여, perfetto docs를 뒤지던 중 Perfetto SDK가 있음을 확인했다. 그 전에는 이런 게 있는 줄 몰랐는데 C/C++로 구현할 수 있으면 훨씬 확장성이나 적은 overhead로 구현할 수 있어 잘됐다 싶었다. 2. 환경 설정 일...

llama.cpp에서 NPU 실행하기 (Snapdragon / Hexagon HTP) NPU 실행은 현재 최신 폰에서만 지원되는 것으로 보인다. 삼성/샤오미/화웨이 등 Snapdragon SoC를 탑재한 기기들 간의 호환성은 아직 확인되지 않았다. 따라서. 구형 휴대폰이나, 삼성 휴대폰의 경우 빌드는 정상적이지만 실행되지 않고 에러가 날 수...

Docker 세팅법 및 사용법 정리 1. 들어가며 Docker는 애플리케이션과 그 실행에 필요한 모든 의존성(라이브러리, 런타임, 설정 파일 등)을 하나의 컨테이너(container)로 패키징하여, 어떤 환경에서도 동일하게 실행될 수 있도록 해주는 컨테이너 기반 가상화 플랫폼이다. 전통적인 가상 머신(VM)이 운영체제 전체를 가상화하는 방식인 반면...

On-device LLM API 분석 방법 (Unsloth 예제) 들어가며 일단, on-device LLM을 연구하는 입장에서 우리는 단순히 on-device LLM이 모바일에서 동작하기만 해서는 안된다. 결국 LLM의 핵심 동작 흐름인 MHA(Multi-head attention), FFN(Feedforward network) 등이 어떻게 구현되어...

Unsloth의 on-device LLM 어플을 윈도우를 통해 안드로이드 폰에 deploy하기 1. 소개 최근 On-device LLM에 대한 관심이 빠르게 증가하고 있습니다. 그러던 와중 Unsloth가 정말 좋은 On-device LLM 예시 코드를 공개했습니다. 그에 따라 코드를 deploy하는 방식에 대해 다루어 보고자 합니다. 이 어플...

Linux terminal(bash)에 git branch 띄우기 1. Terminal의 작동 원리 이 포스트에서는 bash terminal에 대해서만 다루겠지만, 대부분의 Unix 계열 terminal은 매우 유사한 구조로 동작한다. 일반적으로 우리가 사용하는 터미널 환경은 터미널 에뮬레이터(예: GNOME Terminal) 와 셸(shell, ...

Python 가상환경 초기 설정 정리 Set-up 환경은 무조건 Linux Ubuntu 20.04 LTS 기준. 1. anaconda a. Installer 다운로드 여기에서 anaconda installer 설치해준다. sh Anaconda3-2020.04-Linux-x86_64.sh source ~/.bashrc b. 가상환경 ...

Termux 출력 에러 1. 에러 설명 [print-1] [print-2] ~/$ Android termux에서 C/C++ 코드를 짜서 출력을 하다보면, 위와 같이 출력이 밀리는 경우가 확률적으로 발생한다. 또는, 더 심할 경우에 키보드 입력이 되지 않는 경우가 발생하기도 한다. 사실 몇 번 만 ...

Android 휴대폰 루팅하기 (Google Pixel 9) 개인용 휴대폰에서는 파일이 손상 또는 휘발될 수 있으니 필히 백업해주시기 바랍니다. 또한, 루팅을 진행하면 공식 수리나 A/S등의 서비스를 받지 못 하므로 평소 사용하는 휴대전화에 루팅을 한다면, 큰 주의를 기울여주시기 바랍니다. 이거 보고도 못 따라하면, 정말 병신입니다. 0...

Perfetto 분석하기 1. Intro Perfetto 실행시 나오는 결과 파일인 .perfetto-trace는 SQL DB 형식으로 저장된다. 따라서 이 파일에서 적절한 데이터를 불러와 분석하기 위해서는 SQL을 통해서 가져와야 한다. 2. Perfetto UI 웹사이트 상에서 UI를 통해 쉽게 확인할 수도 있다. Perfetto UI 사...