local.ai

? Local.ai

로컬, 개인, 보안 AI 실험을위한 데스크탑 앱. 포함 된 상자는 다음과 같습니다.

• 권장 하드웨어 사양, 모델 라이센스, Blake3/SHA256 해시 등과 같은 설명이 포함 된 알려진 좋은 모델 API 및 모델 다운로더 ...
• 메모 당 추론 구성이 포함 된 간단한 메모 작성 앱. 노트와 그 구성은 일반 텍스트 .mdx 형식으로 출력됩니다.
• 모델 추론 스트리밍 서버 (/OpenAI와 유사한 완료 엔드 포인트)

https://github.com/alexanderatallah/window.ai/와 함께 로컬 추론 서버를 올려 놓고 실행할 수있는 간단한 방법으로 사용하도록 만들어졌습니다. Window.ai + local.ai 모든 웹 앱이 개발자 또는 사용자로부터 비용을 발생시키지 않고 AI를 활용할 수 있도록합니다!

현재 Local.ai는 https://github.com/rustformers/llm Rust Crate를 핵심으로 사용합니다. 그들을 확인하십시오, 그들은 매우 멋지다!

설치하다

https://www.localai.app/의 사이트로 이동하여 기계 아키텍처의 버튼을 클릭하십시오. GitHub 릴리스 페이지에서 빌드를 수동으로 찾을 수 있습니다.

Windows 및 Macos Binaries는 Plasmo Corp.에서 서명합니다.이 프로젝트의 저자가 소유 한 회사 (@louisgv).

당신은 또한 소스에서 빌드 할 수도 있습니다!

데모

local.ai.ai.demo.v0.2.x.mp4

? 개발

로컬로 프로젝트를 실행하는 방법은 다음과 같습니다.

전제 조건

1. 노드> = 18
2. 녹> = 1.69
3. pnpm> = 8

워크 플로

 git submodule update --init --recursive
pnpm i
pnpm dev

? 특허

• 데스크탑/웹 앱 : GNU GPLV3
• 클라이언트 SDK : MIT

? 하찮은 일

왜 배낭인가?

자신만의 모델 개념을 가져 오기 -lex.ai에서 Alex를 가져옵니다.

왜 gplv3인가?

파생 상품을 포함하여 AI 관련이란 모든 사람이 검사하기 위해 오픈 소스 여야합니다. GPLV3 은이 오픈 소스 체인을 시행합니다.

커뮤니티가 있습니까?

• Github 토론
• 이 여론 조사를 체크 아웃하십시오

어디에서 질문해야합니까?

• 여기

나는 local.ai 로 무언가를 만들었습니다. 어디서 게시해야합니까?

• 여기

local.ai 에 대해 할 말이 몇 가지 있습니다. 어디에 게시해야합니까?

• 여기
• 또한 REPO에 별을주는 것을 고려하십시오

이름 지정이 Localai에 가까워 보입니까?

• 내가 프로젝트를 처음 시작하고 도메인 Localai.app을 얻었을 때, 나는 localai가 일이라는 것을 전혀 몰랐습니다. 내 친구가 나에게 5 월 중순에 그 프로젝트에 대한 링크를 전달했는데, 나는 그것을 좋아했고, 그냥 점을 추가하고 하루를 부르자 (지금은 ...) - 로컬 "dot"ai vs localai lol
• 우리는 프로젝트의 이름을 바꿀 수 있습니다.

기여/PR을 수락합니까?

절대적으로 -이 저장소에 대한 모든 기여는 GPLV3에 따라 유적되어야합니다. 다음과 같이 기여하는 방법에는 여러 가지가 있습니다.

• Wiki 편집 제출 및 알려진 모델 문서를 통한 문서
• 테스트 및 제출 버그 문제
• 초보자는 좋은 첫 번째 문제를 확인하십시오
• 노련한 개발자의 경우 할당되지 않은 도움말 문제를 확인하십시오