Chúng tôi rất vui mừng chia sẻ kiến thức sâu sắc về từ khóa Sigmoid la gi để tối ưu hóa nội dung trang web và chiến dịch tiếp thị trực tuyến. Bài viết cung cấp phương pháp tìm kiếm, phân tích và lựa chọn từ khóa phù hợp, cùng với chiến lược và công cụ hữu ích. Hy vọng thông tin này sẽ giúp bạn xây dựng chiến lược thành công và thu hút lưu lượng người dùng. Cảm ơn sự quan tâm và hãy tiếp tục theo dõi blog để cập nhật kiến thức mới nhất.
Sigmoid Function là một khái niệm thân thuộc trong Deep Learning. Nội dung bài viết sẽ trình bày sơ bộ về Sigmoid Function và lịch sử vẻ vang hình thành của nó.
Bạn Đang Xem: Tìm hiểu Sigmoid Function và lịch sử hình thành của nó
Sigmoid Function là gì?
Sigmoid Function (Hàm Sigmoid) còn được gọi là đường cong Sigmoid. Đây là một hàm toán học có đặc trưng là đường cong hình chữ S. Nó thể hiện cho việc chuyển đổi các giá trị giữa phạm vi 0 và 1. Nó là một trong những hàm kích hoạt (activation function) phi tuyến tính được sử dụng rộng rãi nhất.
Có một số hàm Sigmoid phổ quát, ví dụ như: hàm Sigmoid logistic, hàm tiếp tuyến hyperbol và hàm ArcTan. Trong máy học (machine learning), thuật ngữ Sigmoid Function thường được dùng làm chỉ hàm Sigmoid logistic, còn được gọi là hàm logistic.
Sigmoid Function dùng làm làm gì?
Tất cả những hàm Sigmoid đều sở hữu một đặc điểm chung. Chúng có thể chuyển những số lượng nguồn vào thành một phạm vi nhỏ nhất định. Cụ thể, các số lượng nguồn vào sẽ chuyển thành từ 0 đến 1 hoặc -1 và 1. Tức là, Hàm Sigmoid dùng làm chuyển một giá trị thực thành một giá trị kiểu xác suất.
Xem Thêm : Xét nghiệm CRP là gì? Ý nghĩa của xét nghiệm
Hàm Sigmoid sẽ nhận nguồn vào (input) và thực hiện những công việc sau:
- Nếu biến nguồn vào âm, hàm Sigmoid sẽ chuyển gần như tất cả thành một số gần với 0.
- Với gần như tất cả nguồn vào dương, hàm Sigmoid sẽ biến nguồn vào thành một số gần với cùng một.
- Trường hợp nguồn vào tương đối gần 0, hàm Sigmoid sẽ chúng thành số bất kỳ từ 0 đến 1.
Lịch sử dân tộc của Sigmoid Function
Khái niệm Sigmoid Function không hề mới, mà nó đã được hình thành từ rất mất thời gian. Ta có thể chia lịch sử vẻ vang của Hàm Sigmoid ra làm hai thời đoạn như sau:
Hàm Sigmoid trước năm 1975
Năm 1798, Thomas Robert Malthus đã xuất bản một cuốn sách tên là “An Essay on the Principle of Population” (Một bài luận về Nguyên tắc Dân số). Ông là một giáo sĩ và nhà kinh tế tài chính học người Anh. Cuốn sách của ông khẳng định rằng dân số đang tăng theo một tiến trình hình học. Điều này tức là cứ mỗi 25 năm thì dân số lại tăng gấp đôi. Trong những khi đó, nguồn cung cấp cấp lương thực lại tăng lên theo số học. Ông nhận định rằng sự khác biệt giữa hai số lượng này là vì nạn đói đang lang rộng.
Cuối trong thời gian 1830, nhà toán học người Bỉ Pierre François Verhulst đã thử nghiệm những cách khác nhau để mô hình hóa sự tăng đều dân số. Verhulst muốn giảng giải rằng dân số không tăng theo cấp số nhân mãi, mà nó có giới hạn. Ông chọn hàm logistic để mô hình hóa sự chậm lại của tốc độ tăng trưởng dân số.
Hàm Sigmoid tiếp tục được sử dụng trong các thế kỷ tiếp theo. Nhiều nhà sinh vật học và khoa học khác dùng nó như một dụng cụ tiêu chuẩn để mô hình hóa sự tăng trưởng dân số.
Hàm Sigmoid sau năm 1975
Xem Thêm : THONG DONG TỰ TẠI NGHĨA LÀ GÌ
Năm 1943, Warren McCulloch và Walter Pitts đã phát triển mô hình mạng nơ-ron tự tạo sử dụng ngưỡng cứng (hard cutoff) làm hàm kích hoạt. Cụ thể, nơ-ron xuất ra 1 hoặc 0 tùy vào việc nguồn vào lơn hơn hay thấp hơn ngưỡng.
Năm 1972, Hugh Wilson và Jack Cowan đã tìm cách mô hình hóa các nơ-ron sinh vật học bằng phép tính. Họ dùng hàm Sigmoid logistic để mô hình hóa sự kích họat của một tế bào thần kinh. Trong số đó, một nơ-ron sẽ gửi tín hiệu đến nơ-ron khác nếu nó nhận được tín hiệu to ra nhiều thêm điện thế kích hoạt. Mô hình này được gọi là mô hình Wilson – Cowan.
Từ trong thời gian 1970 và 1980 trở đi, một số nhà nghiên cứu mở màn sử dụng các hàm Sigmoid trong các công thức của mạng nơ-ron tự tạo, lấy cảm hứng từ các mạng nơ-ron sinh vật học. Năm 1998, Yann LeCun đã chọn hàm tiếp tuyến hyperbol làm hàm kích hoạt trong mạng LeNet nổi tiếng của mình. Đây là mạng trước hết có thể nhận dạng các chữ số viết tay ở tầm mức độ chuẩn xác thực tế.
Trong thời gian gần đây, mạng nơ-ron tự tạo đã bỏ hàm Sigmoid để chuyển sang dùng hàm ReLU. Lý do là vì tất cả những biến thể của hàm Sigmoid đều được thiết kế cho việc tính toán. Trong những khi đó, hàm ReLU có độ phi tuyến tính cấp thiết để tận dụng độ sâu của mạng. Hàm ReLU cũng tính toán rất nhanh.
Tóm lại, Sigmoid Function đã có một quá trình hình thành và phát triển khá lâu. Hy vọng, qua nội dung bài viết này, bạn đã hiểu thêm nhiều điều về Sigmoid Function.
Got It Vietnam – Tham khảo: DeepAI.org
