komputation

계산

Komputation은 Kotlin과 Cuda C에서 작성된 Java 가상 기계의 신경망 프레임 워크입니다.

Maven

Komputation은 Maven Central을 통해 사용할 수 있습니다.

< dependency >
    < groupId >com.komputation</ groupId >
    < artifactId >komputation</ artifactId >
    < version >0.12.5</ version >
</ dependency >

레이어

• 진입 점 :

  • 입력
  • 조회

• 표준 피드 포워드 네트워크 :

  • 가중치
  • 편견
  • 투사
  • 밀집한

• CNNS (Convolutional Neural Networks) :

  • 회선
  • 맥스 풀 링

• 재발 성 신경망 :

  • 반복 층
  • 양방향 반복 층

• 탈락

• 활성화 기능 :

  • 신원
  • 정류 된 선형 단위 (Relus)
  • Sigmoid
  • SoftMax
  • 탄

• 기타 레이어 :

  • 스택
  • 지수
  • 표준화

CPU 데모

• 부울 기능 :

  • 그리고
  • 아니다
  • xor

• 총:

  • 고정 길이
  • 가변 길이

• 총 실행 :

  • 왼쪽에서 오른쪽 :
    • 고정 길이
    • 가변 길이
  • 오른쪽으로 :
    • 고정 길이
    • 가변 길이
  • 양방향 :
    • 고정 길이
    • 가변 길이

• 증가:

  • 하나의 층
  • 두 층

• 장난감 문제 : 단어 임베딩 장난감 문제 :

  • 피드 포워드 네트워크
  • 하나의 필터 너비가있는 CNN
  • 두 개의 필터 너비가있는 CNN

• 시퀀스 라벨링 장난감 문제

• 컴퓨터 비전 장난감 문제

• mnist :

  • 최소
  • 탈락

• Trec :

  • 하나의 필터 너비
  • 두 개의 필터 너비

GPU/CUDA 데모

• 부울 기능 :

  • 그리고
  • 부정
  • xor

• 장난감 문제 : 단어 임베딩 장난감 문제 :

  • 피드 포워드 네트워크
  • 하나의 필터 너비가있는 CNN
  • 두 개의 필터 너비가있는 CNN

• 총:

  • 고정 길이

• 증가:

  • 하나의 층
  • 두 층

• mnist :

  • 최소
  • 탈락

• Trec :

  • 하나의 필터 너비
  • 두 개의 필터 너비

샘플 코드

다음 코드는 문장 분류를위한 GPU에 액세스 된 컨볼 루션 신경 네트워크를 인스턴스화합니다.

    val sentenceClassifier = cudaNetwork(
        batchSize,
        lookup(embeddings, maximumDocumentLength, embeddingDimension, optimization),
        convolution(numberFilters, filterWidth, filterHeight, initialization, optimization),
        relu(),
        dropout(random, keepProbability),
        dense(numberCategories, Activation . Softmax , initialization, optimization)
    )

자세한 내용은 TREC 데모를 참조하십시오.

초기화

• 제공
• 끊임없는
• 가우스
• 그
• 신원
• 제복
• 영

손실 기능

• 교차 엔트로피 손실
• 물류 손실
• 제곱 손실

최적화

• 확률 적 구배 하강
• 역사적인:
  • 기세
  • 네거로프의 가속 그라디언트
• 적응성 :
  • 아다 그라드
  • Adadelta
  • rmsprop
  • 아담