TinyML hiện là một trong những lĩnh vực phát triển nhanh nhất của Học sâu. Đây chính là giao điểm của các ứng dụng, thuật toán, phần cứng và phần mềm Học máy nhúng.
Theo Pitchbook, TinyML (Tiny Machine Learning) là một trong những lĩnh vực phát triển nhanh nhất của AI và Học máy. TinyML đề cập đến hướng nghiên cứu về Học máy để tối ưu, nén các mô hình AI sao cho có thể chạy được trên các thiết bị nhúng nhỏ, yếu, hạn chế về tài nguyên tính toán và lưu trữ như vi điều khiển. TinyML cho phép thông minh hóa các thiết bị nhúng bằng AI (AI-powered embedded devices).
Đặc điểm thường thấy của sản phẩm ứng dụng TinyML
- Tiết kiệm năng lượng: Trong khi CPU tiêu chuẩn tiêu thụ từ 65 watt đến 85 watt và GPU tiêu thụ trong khoảng từ 200 watt đến 500 watt, con số này dành cho các vi điều khiển chỉ dừng lại ở mức miliwatts hoặc microwatts. Với TinyML trên các vi điều khiển, mức tiêu thụ điện năng ít hơn khoảng một nghìn lần.
- Độ trễ: Quá trình truyền nhận dữ liệu với máy chủ hay đám mây sẽ mất thời gian. Với TinyML, quá trình đó không bao gồm nên làm giảm độ trễ của hệ thống.
- Quyền riêng tư: luôn được đảm bảo vì dữ liệu không cần phải gửi ra môi trường bên ngoài.
Các ứng dụng của TinyML
Phân tích âm thanh, nhận dạng mẫu và thực hiện các tác vụ máy tính bằng giọng nói là những lĩnh vực áp dụng TinyML. Nhiều ngành có thể hưởng lợi từ phân tích âm thanh, chẳng hạn như chăm sóc trẻ em và người già, giám sát an ninh và theo dõi thiết bị. TinyML có thể phát hiện sự bất thường bằng cách phân tích âm thanh với một cảm biến nhỏ và kích hoạt cảnh báo trong thời gian thực. Liên quan đến COVID-19, Edge Impulse và Arduino gần đây đã công bố một dự án sử dụng bảng Nano BLE Sense để phát hiện sự xuất hiện của tiếng ho trong thời gian thực và áp dụng mô hình TinyML được tối ưu hóa cao để xây dựng một hệ thống phát hiện tiếng ho chạy trong 20 kB RAM.
Ngoài âm thanh, TinyML cũng có thể được sử dụng để nhận dạng tầm nhìn, chuyển động và cử chỉ.
TinyML sẽ tác động đến hầu hết các ngành: bán lẻ, chăm sóc sức khỏe, giao thông vận tải, nông nghiệp, thể thao và sản xuất. Điện thoại di động có thể trở thành một thiết bị biên thu thập dữ liệu, chạy các mô hình học tập dựa trên mạng nơ-ron nhân tạo (ANN) và lấy mẫu các cảm biến nhỏ cùng với bộ vi điều khiển công suất thấp. Một số ứng dụng cụ thể của TinyML bao gồm:
- Bảo trì công nghiệp: Bảo trì có dự đoán là một trong những ứng dụng phổ biến nhất của của TinyML. TinyML trên các thiết bị giúp theo dõi hoạt động của máy móc và dự đoán các lỗi trước khi chúng xảy ra, cảnh báo cho công nhân để bảo trì thiết bị kịp thời.
- Chăm sóc sức khỏe: Dự án Solar Scare Mosquito (là thiết bị chạy bằng năng lượng mặt trời) sử dụng TinyML để hạn chế sự lây lan của các bệnh do muỗi truyền như Sốt xuất huyết, Sốt rét, Virus Zika, Chikungunya… Nó hoạt động bằng cách phát hiện điều kiện sinh sản của muỗi và tác động lên nước để ngăn muỗi sinh sản.
- Nông nghiệp: Mô hình Học máy trên thiết bị nhúng không có Internet, chạy bằng năng lượng mặt trời hoặc pin, đo đạc và đưa ra các cảnh báo có thể giúp nông dân phát hiện bệnh trên cây trồng, vật nuôi. Đây là một ứng dụng hữu ích đối với những nông dân ở vùng sâu vùng xa, những nơi chưa thể tiếp cận với hạ tầng mạng.
Machine Learning Framework nào dành cho TinyML?
Các framework đang hỗ trợ tốt hơn cho TinyML, trong đó TensorFlow được dùng khá phổ biến, hỗ trợ tương tối phong phú các nền tảng nhúng, đồng thời cung cấp các mô hình học máy được huấn luyện trước (pre-trained model) cho các bài toán như phát hiện đối tượng trong ảnh (Object Detection), tương tác tự động (ví dụ như chatbot), hệ thống đề xuất tự động dựa trên phân tích hành vi người dùng,…. Sử dụng nhánh TensorFlow Lite Micro, các nhà phát triển có thể triển khai các mô hình trên vi điều khiển.
Ngày nay, có hơn 250 tỷ thiết bị nhúng đang hoạt động trên thế giới, với mức tăng trưởng dự kiến 20% hàng năm. Các thiết bị này đang thu thập một lượng lớn dữ liệu và việc xử lý dữ liệu này trên đám mây là một thách thức không nhỏ. Trong số 250 tỷ thiết bị đó, khoảng 3 tỷ thiết bị hiện đang được sản xuất có thể hỗ trợ TensorsFlow Lite. Đưa TinyML trở nên dễ tiếp cận hơn với các nhà phát triển sẽ là yếu tố quan trọng để thúc đẩy sự gia tăng hàng loạt của học máy nhúng, nhằm biến dữ liệu lãng phí thành thông tin chi tiết và tạo ra các ứng dụng mới trong nhiều ngành.
Theo Đại học Harvard, “sự bùng nổ của Học máy và việc dễ dàng sử dụng các nền tảng như TensorFlow (TF) khiến TinyML trở thành một chủ đề nghiên cứu không thể thiếu đối với sinh viên khoa học máy tính hiện đại”. Nếu bạn quan tâm và muốn học thêm các kiến thức về TinyML, hiện Harvard cũng đã triển khai khóa học CS249R: Tiny Machine Learning.
(Nguồn tham khảo: Towards Data Science)