shady.ai

Shadyai

_{개인 정보 친화적 인 오프라인 AI 모델을 최대한 많은 사람들이 액세스 할 수 있습니다. 오프라인 먼저. 프라이버시 먼저. 오픈 소스. 무료. Shadyai에서 일어나는 일은 Shadyai에 남아 있습니다 . 광고가 없습니다. 추적이 없습니다. 데이터 수집이 없습니다. 등록이 없습니다. 구독 없음. 인앱 구매가 없습니다. 프리미엄 기능이 없습니다. 나다. 아무것도 아님. 그게 다야. 순수한 AI, 순수한 의도 - 이것이이 앱의 본질입니다.}

소개

AI가 그림자에 어떻게 숨어있는 경향이 있는지 알아 차렸습니까? Shadyai는 비밀스러운 이름을 자랑하는 신생 기업의 바다와 함께 AI의 신비에 대한 AI를 장난스럽게 인정합니다. 그것은 모두 약간의 가벼운 헛소리입니다. 반대로,이 장난스러운 외관 뒤에는 투명성과 윤리적 AI 관행에 대한 진정한 헌신이 있습니다. Shadyai는 완전히 오픈 소스이며 개인 정보에 대한 명확성, 개방성 및 강조를 강조하기 위해 최선을 다하고 있습니다.

많은 최첨단 오프라인 AI 모델이 있으며 모두 잡기를 원합니다. 라마와 속삭임의 세그먼트를 생각하십시오. 그게 무슨 뜻입니까? 글쎄, 나는 누구나 함께 제공되는 기술적 장애물없이 이와 같은 최첨단 AI 진보를 쉽게 사용할 수 있도록하고 싶습니다.

스폰서

• 내 빈 지갑
• 나의 여가 시간 (나는 풀 타임 아빠, 풀 타임 직원, 그리고 일과 삶의 균형을 바로 잡는 파트 타임 구직자)

진전

항목은 변경 될 수 있습니다. 이 목록은 철저하지 않습니다. 내가 갈 때 업데이트하겠습니다.

적극적으로 작업하는 것이 A로 표시되어 있습니까? 이모티콘.

• Flutter로 슬라이드 데크 만들기 (보너스 : 맞춤 변경을 다시 기여)
• llama.cpp에 대한 다트 바인딩을 생성합니다
• MACOS 용 .Dylib (ARM64) 생성 (보너스 : GPU 가속도를위한 금속 아티팩트 포함)
• Llama의 인스턴스를 Dylib로 성공적으로로드하십시오
• 기본 LLAMA 컨텍스트 매개 변수와 함께 GGUF 형식으로 LLAMA 모델을 성공적으로로드
• 맞춤형 프롬프트로 라마 모델에서 추론을 성공적으로 실행하십시오
• 앱에 빠른 시작 경험을 추가하십시오
• ? 크로스 플랫폼 플러터 FFI 플러그인을 만들어 자신의 앱을 동일한 방식으로 전원을 공급하십시오 (수많은 욕심의 욕심없이)
• 지원되는 플랫폼 확장 :
  • MACOS (ARM64)
  • 마코스 (x86_64)
  • Windows (x86_64)
  • 리눅스 (x86_64)
  • 안드로이드 (ARM64)
  • iOS (ARM64)
  • Web (웹을위한 Shadyai는 WebGPU 지원이 있어야 함)
• 11 주차 스파이크 (2 일) : 텍스트-이미지, 세분화, 음성-텍스트.
• 비디오를 게시, 블로그 게시물을 게시하고, 비주얼 (예 : readme)을 추가하고 초기 피드백을 수집하십시오.

특징

항목은 변경 될 수 있습니다. 이 목록은 철저하지 않습니다. 내가 갈 때 업데이트하겠습니다.

• AI에게 하나의 질문을 물어보십시오. (예 : "삶의 의미는 무엇입니까?")
• AI에게 단일 지침을 제공하십시오. (예 : " 'Hello World'라는 버튼이있는 플러터 위젯 작성")))
• 사전 정의 된 프롬프트 템플릿 중에서 선택하십시오.
• 내장 된 작은 미묘한 AI 모델을 사용하여 신속하게 시작하십시오. (참고 : 짧은 이야기를 생성하는 데 큰 도움이되는 것은 <100 MB의 작은 습지 모델입니다. 그래도 여러 ~ 1B 모델을 주시하고 있습니다).
• AI에게 간단한 설명을 기반으로 이미지를 생성하십시오. (예 : "모자가있는 고양이")
• AI와의 진행중인 채팅 대화. (친구와 대화하는 것처럼, 비틀어
• 텍스트를 다른 언어로 번역하십시오.
• 다른 사람의 목소리를 복사하고 원하는 것을 말하십시오.
• AI로 음악을 만드십시오.
• AI로 짧은 비디오를 만드십시오.

구현 된 기능을보고 싶다면 문제를여십시오.

확인 된 장치

다음은 Shadyai를 테스트 한 장치 목록입니다. 이것은 철저한 목록이 아니며 장치도 작동해야합니다. 그렇지 않은 경우 문제를 열어 알려주십시오.

• MacBook Pro (16 인치, 2021).
  • Macos Ventura- 버전 13.5.1
  • 칩 : Apple M1 Pro
  • 메모리 : 16GB

실험

Shadyai는 Shady.ai를 방문하여 작동 할 수도 있습니다. 이것은 매우 실험적입니다. 아직 너무 흥분하지 마십시오!

이 웹 사이트는이 배포 페이지에서 볼 수 있듯이 매일 밤 00:00 UTC에 오븐에서 새로 구워집니다.

DIY

직접하십시오. 소스 코드가 있습니다. 여기에 구축 할 수있는 방법이 있습니다.

1. Flutter를 설치하고 예제 앱 (카운터 앱)을 실행할 수 있는지 확인하십시오.
2. FVM (Flutter 버전 관리자)을 설치하고이를 실행할 수 있는지 확인하십시오 (예 :이 글을 쓰는 시점에서 fvm --version Outputs 2.4.1).
3. 터미널을 열고이 프로젝트의 루트로 이동하십시오 (예 : cd ~/my-favorite-projects/shady.ai ).
4. 프론트 엔드로 이동하십시오 : cd shady_ai_flutter
5. 동일한 Flutter 버전을 설치하십시오 : fvm install
6. 마지막으로 : flutter run

기준

70 년대 중반에 은퇴 한 정육점 인 아빠가 벤치 마크가 될 것입니다.

벤치 마크가 통과하려면이 체크리스트를 완료해야합니다.

체크리스트 :

• 아빠에게 앱을 다운로드하라고 지시하십시오.
• 그에게 앱과 대화를 나누도록 요청하십시오. 그가 AI와 5 분 이상 채팅하는 경우 패스입니다.
• 그에게 이미지를 생성하도록 요청하십시오. 그가 이미지를 생성 할 수 있다면 패스입니다. 결과에 만족하며 다른 사람과 공유 할 수 있습니다.

완료되지 않은 경우 실패입니다. 완료되면 패스입니다.

아빠에 대해.

그는 70 년대 중반에 있습니다. 훌륭한 기억. 항상 내 생년월일을 잊어 버리지 만 30 년 전부터 고객에 대한 세부 정보를 기억합니다. 유머 감각이 뛰어납니다. 오, 잠깐만 요, 그의 기억은 결국 그다지 크지 않습니다. 그래도 그는 위대한 아빠입니다.

아빠에게 인사하십시오.

기술 스택

• 플러터 - 프론트 엔드 (다트)
• llama.cpp- CPU에서 Blinkdl의 모델 중 하나를 빠르게 추론 할 수 있습니다.
• 설계 시스템 - Google에서 만든 설계 시스템. 앱 전체에서 자신을 직접하는 것보다 덜 노력하면서 앱 전체에서 구성된 테마를 얻는 데 도움이됩니다.
• 그리고 더 많은 ...
• ServerPod -Backend (DART). Shadyai는 현재 백엔드를 사용하지 않습니다. 그러나 나는 ServerPod를 사용하여 나중에 자신의 서버에 배포 할 수있는 강력한 모델을보다 쉽게 ​​실행할 수 있도록 계획하고 있습니다. 나는 R/selfhosted의 사람들이 그것을 좋아할 것이라고 확신합니다. 나는 내가한다는 것을 안다. 어디에서나 액세스 할 수있는 강력한 AI 모델 (또는 다중 모델)을 실행하는 Docker 이미지를 실행하는 단일 명령 줄을 상상해보십시오. 그것이 꿈입니다. 나는 아직 거기에 없지만 작업 중입니다.

FAQ

Q : 그것에 대해 뭐가 그렇게 그늘진가?

A : 아이러니하게도 전혀 아무것도 없습니다. Shadyai라는 이름은 장난스러운 비틀기입니다. 그것을 사용한다면, "그늘진", 글쎄, 그것은 우리의 작은 비밀이 될 것입니다. 결론? Shadyai에서 일어나는 일은 Shadyai에 남아 있습니다.

Q : 이와 같은 것을 만들고 싶은 사람에게 어떤 조언이 있습니까?

A : 열정으로 시작합니다. 무언가 "Vogue"의 무언가가 장기적으로 당신을 지탱하지 않기 때문에 악 대차를 뛰어 넘습니다. 트렌드가 도망 치고 있습니다. 주제에 대해 깊이 빠져 나오십시오 -이 경우 ai. 그 능력을 이해하고 당신이 다루고 싶어하는 실제 문제에 대해 비판적으로 생각하십시오. 저에게는 AI의 잠재력을 말하는 것이 아닙니다. 그것은 그것을 보여주는 것에 관한 것입니다. 나는 간단한 벤치 마크를 사용합니다. 부모님이 자발적으로 사용하기 시작하면 내가 무언가에 있다는 것을 알고 있습니다. 그것은 여정이고, 아직 거기에 없지만 나는 길에 헌신하고 있습니다.

부인 성명

이 프로젝트는 Meta, OpenAI 또는 다른 회사와 제휴하지 않습니다. 이것은 나에 의해 만든 개인 프로젝트입니다. Shadyai, 나 자신 과이 프로젝트에 관련된 다른 사람은이 앱의 사용으로 인한 손상에 대해 책임을지지 않습니다. 자신의 위험에 사용하십시오.

특허

라이센스 파일을 참조하십시오.

기여

문제 또는 풀 요청을 자유롭게 열어주십시오. 나는 어떤 제안에도 열려 있습니다.

Shadyai의 친구

• llama.dart -llama.cpp의 다트 바인딩. 나에 의해 만들어졌다.
• LLAMA.CPP- AI 모델을 로컬로 구축하고 실행하기위한 C ++ 라이브러리.
• 플러터 퍼스 - 퍼스의 플러터 모임 그룹. 나는 주최자입니다. Flutter 및 AI에 대해 자세히 알아 보려면 정기 온라인 회의에 가입하십시오.