MCP

Windows에서 먼저 발견한 뒤 데스크톱을 조작하기

Claude 또는 Cursor가 Windows 10/11 데스크톱을 조작하게 하려는 사람에게 맞다. 픽셀 좌표를 짐작하지 말 것. 첫 호출은 desktop_discover이며 왼쪽 위 급정을 기억한다.

Official source · desktop-touch-mcp

Install

npx -y @harusame64/desktop-touch-mcp

누구에게 맞나

Claude, Cursor 또는 다른 MCP 클라이언트가 Windows 10/11 데스크톱을 보고 조작하게 하려는 사람에게 맞다. 공식 능력은 screenshots, UI Automation, Chrome CDP, keyboard / mouse, terminal, 그리고 semantic discover-then-act이며 pixel-coordinate guessing을 피한다.

크로스 플랫폼 원격 데스크톱이 아니다. 이 기기는 Windows 10/11이어야 한다. 공식은 32 tools, native Rust engine(UIA in 2 ms), zero-config PowerShell fallback, full CJK support, MIT licensed도 쓰며 Notepad, Excel, Chrome, Windows Terminal 및 다른 로컬 앱을 구동할 수 있다.

공식 페이지:

https://github.com/Harusame64/desktop-touch-mcp

3분 만에 첫 시도 끝내기

공식 명령만 따른다:

npx -y @harusame64/desktop-touch-mcp

Claude / Cursor / VS Code Copilot 설정에 넣는다. 나타나지 않은 설치기를 찾지 말 것.

전제: Windows 10/11. 이 기기에서 npx가 돈다. 첫 시도는 마우스를 움직여 앱을 누르지 말고 Key Locker도 열지 말 것. 먼저 비상 정지를 기억한다. 마우스를 주 디스플레이 왼쪽 위(within 10px of 0,0)에 500ms 둔다.

설정 위치: 위 클라이언트의 MCP 설정. 공식은 파일 경로를 주지 않는다.

첫 호출은 지목된 desktop_discover여야 한다. interactive entities와 short-lived leases를 돌려주고 원시 좌표가 아니다. 성공 신호: 엔티티와 리스가 보이고 키보드 입력이나 마우스 클릭이 창에 떨어지지 않았다.

바로 desktop_act를 호출하지 말 것. 그것은 operate on what you mean이다. 공식은 per-action perception guards가 있어 입력이 떨어지기 전 대상 창 identity와 bounds를 대조하지만 여전히 쓰기다.

읽기 전용 발견은 위험이 없다는 뜻이 아니다. 스크린샷을 찍고 UI 트리를 읽으며 Chrome CDP에 닿을 수 있다. 이 기기 데스크톱 내용이 클라이언트로 들어간다.

사용 사례

사례 1: 먼저 발견한 뒤 손을 쓸지 정한다. desktop_discover를 호출하고 돌아온 엔티티와 리스를 읽는다. 공식은 리스 시간이나 엔티티 필드 표를 쓰지 않았다. 지금은 「픽셀 점이 아니라 상호작용 가능한 대상이 보인다」까지다.

사례 2: 있는 리스에 동작을 실행한다. desktop_act를 호출한다. 공식은 what을 조작하고 where가 아니라고 강조하며 wrong-window typing을 막는 perception guards가 있다. 동작 열거는 없다. 호출 전에 확인점이 보여야 하고 왼쪽 위 급정 준비가 있어야 한다.

Key Locker는 다른 지목 능력이다. 자체 보안 대화상자에서 자격 증명을 한 번 저장한다(Windows DPAPI 암호화, never shown to the assistant). key_locker(action='launch_console')로 콘솔을 열면 ssh / sudo의 숨은 프롬프트가 자동으로 비밀을 채운다. 첫 시도에는 이 길을 가지 말 것.

사용 경계

플랫폼 경계: Windows 10/11. 능력 경계: 지목된 도구는 desktop_discover, desktop_act, key_locker. 모두 32 tools라고 썼지만 나머지 이름은 나타나지 않는다.

안전 경계: 급정은 주 화면 왼쪽 위 10px, 500ms. 자격 증명은 도우미에게 보이지 않지만 이 기기에는 남는다. 공식은 원격 세션이나 비 Windows 후퇴를 쓰지 않았다.