Skip to content

Instantly share code, notes, and snippets.

View sawyerbutton's full-sized avatar
🦄
I may be slow to respond.

sawyerbutton

🦄
I may be slow to respond.
75 followers · 65 following
View GitHub Profile
@sawyerbutton
sawyerbutton / 浮点数类型初探.md
Last active June 20, 2023 02:55

浮点数类型初探

在深度学习中有多种浮点数类型，在本文中将会对这些浮点数类型进行概述

FP80

  • 首先介绍一下大名鼎鼎的IEEE 754（电气和电子工程师协会 (IEEE) 于 1985 年制定的浮点运算技术标准）
  • FP80是扩展精度的二进制浮点格式
  • 始于 Intel 8087 数学协处理器，背景知识是那时候的CPU还不能进行浮点计算，需要一个额外的协处理器进行浮点运算
  • FP80的实现包括
@sawyerbutton
sawyerbutton / 20250426.md
Created April 26, 2025 04:47

《AI工程核心算法拆解》课程设计

课程定位

聚焦技术实现细节，通过算法原理→代码实现→工业级优化的递进式教学，培养学员的深度技术落地能力。技术权重占比85%，商业与工程占比15%。