---
title: AIは合成関数、そして魂はWeightsに宿る！
tags: 
author: [Daichi Ito](https://convert.docswell.com/user/5460935303)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/9E215ZLMJR.jpg?width=480
description: NGK2026S 昼の部 LT大会の LTスライド
published: January 24, 26
canonical: https://convert.docswell.com/s/5460935303/513DGV-2026-01-24-192002
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/9E215ZLMJR.jpg)

AIは合成関数、
そして魂はWeightsに宿る！
～ by Daichi ～


# Page. 2

![Page Image](https://bcdn.docswell.com/page/D7YZKRQPJM.jpg)

自己紹介

名前：Daichi Ito

職業：ITエンジニア

趣味：
 サーバー構築
 AIを自作 (今は 簡易LMを自作中)

SNS等
 X: @BlackHat0710
 LinkedIn


# Page. 3

![Page Image](https://bcdn.docswell.com/page/VEN3RDKME8.jpg)

機械学習って何ぞや?
教師あり

予測と正解の差を減らすように学習パラメータを調整する作業

この LTでは、学習パラメータ全般を Weights とする
 例) w (weight), b (bias) など


# Page. 4

![Page Image](https://bcdn.docswell.com/page/Y799MGVW73.jpg)

MLP (Multi Layer Perceptron)


# Page. 5

![Page Image](https://bcdn.docswell.com/page/G789LVPRJD.jpg)

学習前


# Page. 6

![Page Image](https://bcdn.docswell.com/page/L7LWL512ER.jpg)

Demo


# Page. 7

![Page Image](https://bcdn.docswell.com/page/4EM9M3W97W.jpg)

学習後


# Page. 8

![Page Image](https://bcdn.docswell.com/page/PERGVQY979.jpg)



# Page. 9

![Page Image](https://bcdn.docswell.com/page/P7XXZ5G37X.jpg)

推論
学習


# Page. 10

![Page Image](https://bcdn.docswell.com/page/37KW864N7D.jpg)

推論


# Page. 11

![Page Image](https://bcdn.docswell.com/page/LJ3126LZE5.jpg)

LM (Language Model)
GPT
Generative Pre-trained Transformer


# Page. 12

![Page Image](https://bcdn.docswell.com/page/8JDXZVN47G.jpg)

約 6300万 個
Token 数 : 37000
各Layer数 : 6
出典：Vaswani et al., “Attention Is All You Need” (2017)


# Page. 13

![Page Image](https://bcdn.docswell.com/page/VEPPDV5VE8.jpg)

私は、猫が好きです。
Encoder
Loop 2
Loop 1
＜SOS＞
Loop 3
＜SOS＞ I
Loop 4
＜SOS＞ I like
＜SOS＞ I like cats
Decoder
Decoder
Decoder
Decoder
I
like
cats
＜EOS＞


# Page. 14

![Page Image](https://bcdn.docswell.com/page/27V21ZPR7Q.jpg)

AIは合成関数、
そして魂はWeightsに宿る！


# Page. 15

![Page Image](https://bcdn.docswell.com/page/5JGR24P67L.jpg)



