5月25日，YouTube用户Rootkid发起的“Latent Reflection”艺术项目引发关注。该项目将Llama 3.2 3B模型置于内存仅4GB的树莓派4B中，模拟AI的‘死亡循环’。尽管经过优化的模型能启动，但随着运算，内存逐渐耗尽导致LLM崩溃重启。Rootkid设计裸露电路板展示硬件，并用96个十六段LED模块限制其表达，同时切断网络连接。初始提示设定其处于有限硬件环境且无网络。LLM在思考自身局限时反复耗尽内存重启，展现技术与哲学碰撞的艺术效果。

IT之家报道，越南开发者Binh Pham利用树莓派Zero（Raspberry Pi Zero）实现了本地运行大语言模型（LLM）。通过改造，该设备被改造成一个小型USB驱动器，运行llama.cpp和llamafile，提供离线轻量级聊天体验。然而，树莓派Zero的硬件限制（如ARMv6架构和512MB内存）使得移植过程充满挑战。Pham需对llama.cpp进行大量修改并移除现代硬件优化。最终测试显示，处理速度较慢，Tiny15M模型每token耗时223毫秒，Lamini-T5-Flan-77M模型为2.5秒。尽管创新，但在实际应用中可能不具备实用价值。

标题：树莓派改造国际象棋，棋子自主移动 正文： 现在，与AI对弈实体国际象棋，不再需要人工操作。甚至不需要机械臂，只需一块特殊的棋盘，树莓派就能控制棋子的移动。 这款名为Pi Chess Board（简称P板）的设备由机电一体化工程师Tamerlan设计制作。P板既可由计算机控制，也可由真人远程操作...

2023年起，人们开始尝试将GPT模型，如Meta的LLaMA，部署在低成本的树莓派上。Georgi Gerganov的"llama.cpp"工具让LLaMA能在Raspberry Pi上运行，尽管速度慢。斯坦福的研究者通过API训练模型并实现类似OpenAI效果，成本低廉。随后，创客们开发了本地端...