Datasets:

mp1704

/

w2v2_0

like 0

./data/1bf326f5-061a-43db-a404-8fe04752c122.wav

à làm để a phục vụ cho năm hai không hai hai ấy thì nếu mà các bạn cũng a chưa nắm được a ở team proton x đang build cái gì thì mình cũng giới thiệu qua

./data/595db77d-cccc-4971-8176-351f058bed41.wav

có nghĩa một cái biến nào đã được chạy ở trong một cái shell bất kì ý nó sẽ trở thành global

./data/782373aa-b059-4fde-be3e-419674ff6ab3.wav

ấy thì ngày xưa người ta dùng như thế nào người ta đếm đấy ví dụ cái câu nào mà có nhiều từ đạo hàm nhất chẳng hạn

./data/33806549-24c9-4219-b628-bad4833f74c4.wav

đúng không rồi dùng một cái hàm if ấy nếu mà cái độ chính xác ở hiện tại ấy

./data/972186bd-13d9-455c-9e93-c305cd361cfe.wav

ở đây thì mình code đúng cái công thức mà nó sử dụng để cập nhật thôi

./data/16124a4b-e5d8-47dc-9537-c472e7be0f15.wav

ấy từ khi train cái mô hình đấy thì nó sẽ tái tạo được cái ảnh đó nó thường nó có cái phân phối như thế nào

./data/0c77c2ad-a3c2-4b18-9a09-c2d5440623d4.wav

có nghĩa các bạn bố trí data ví dụ bây giờ các bạn làm một cái search engine đi

./data/83b8ef1d-2ba1-4461-8704-b85183358145.wav

mọi người có nghe rõ không

./data/dcecf6af-6d41-4a6a-ad76-9923d6a16049.wav

xong mình cho là câu hỏi ấy xong mình à gán vào đây là thành cái nhãn

./data/93fd42f7-5aae-4be4-ac78-cbccb47d3f8e.wav

xong đưa vào transformer xong rồi làm nhiều thứ khác nhau nói chung là làm rất nhiều thứ

./data/68fc67ee-1038-4030-a56c-c1c2570156fb.wav

đúng không ạ

./data/30e8307b-3eb1-4958-969b-e6594816bc9b.wav

đấy nếu mà cái loss hiện tại ấy nó nhỏ hơn tức là mô hình mình tốt hơn rồi thì mình save cái model lại

./data/ccf19d70-4647-42be-831d-7cc4e64e2b31.wav

ấy cho nên là cái lựa chọn kiểu như thế này thì mình thấy nó sẽ phù hợp

./data/0927f05b-e3e7-48b6-9e6a-d5deccaf5421.wav

nếu các bạn gõ model chấm trainable variable thì đây sẽ là toàn bộ cái tham số của mô hình của các bạn

./data/e6d97828-60a8-4ee2-924d-92fd5392685a.wav

chạy thuật toán early stopping này với bộ tham số khởi tạo ngẫu nhiên trên cái tập subtrain này trước

./data/dba9a82c-26c6-45b9-8d09-5fe72a2f538f.wav

nhưng mà nó chưa đủ mạnh để học được là tôi đang nhắc đến chủ đề gì chẳng hạn đấy

./data/2f261296-efab-45b6-ac5e-c6e8e56d1711.wav

xong tôi sẽ học làm sao để có thể là tái tạo lại cái dây đấy là đang nói cái gì

./data/742d76bd-9861-41a0-814a-40f8ea2365eb.wav

ấy tuy nhiên thì à với những cái trường hợp dương ấy thì đạo hàm vẫn sẽ phải rất là lớn đạo hàm sẽ bằng một

./data/984a00ba-7931-415c-9306-d7072559cdbb.wav

mình định nghĩa ở đây

./data/90b7becc-378a-4554-b826-63071a14b277.wav

có điều kiện các bạn xem một số video mà bọn mình từng làm về transformer ấy

./data/cde5f2aa-6034-4aef-b269-8f1d380a3fad.wav

thì số lượng cái step này sẽ bằng cái số lượng của data chia cho số batch size

./data/4a24db6d-0055-45a4-b205-f20ad4a38ff7.wav

theo cái gradient này ây đây bộ tham số này đây gradient này

./data/72d83d09-c02c-496f-9ea8-5e0aa89c204c.wav

à dropout mình sẽ tắt chứ mình không phải là xóa nha mình không có xóa đâu nha

./data/b0ff8acf-c65a-4e27-ad8f-216bb8338890.wav

đây có nghĩa là một cái a mô hình dành cho nhiều ngôn ngữ khác nhau

./data/d834a40d-58d3-4149-8252-7ed7c2596de7.wav

và tác giả của mạng nơ ron hinton đã nói là cái

./data/f9d4457b-5bcd-41c4-8bea-88516a78adb8.wav

ở đây người ta có đề xuất một số cái cách để tránh overfitting ấy thì mình sẽ lược qua một chút

./data/fa8e03ca-2ee9-4401-99c3-461cbb9d35ca.wav

kiểu chờ hiện lên ý xong ngồi dùng cái tool này nó khá là nặng ấy cho nên mình cũng ít dùng

./data/b7c1a6f8-284c-42b5-a7f3-8d66e7ca6e61.wav

người ta sẽ cho các bạn một cái bộ dữ liệu và các bạn chỉ cần sử dụng mạng nơ ron thôi là có thể phân loại được rồi

./data/94639891-bc4e-4b14-b110-cb53c79728e0.wav

không biết hình ảnh có masking không cái này thì mình cũng không nắm rõ lắm cái kiểu này kiểu masking

./data/2f51e03b-2d33-4bf4-9370-b466fcc34578.wav

ấy thì sẽ tổng số param của cái lớp đầu tiên nó sẽ ra tầm bốn trăm sáu tư ở đây

./data/f93b091a-e84b-47e0-bce6-813a46fa3704.wav

thì tất nhiên đây kinh nghiệm của mình thôi các bạn có thể là làm nhiều hơn có kinh nghiệm hơn thì sẽ nói chuyện sau

./data/3d104582-74c1-412f-becb-de3d944ea599.wav

được không ạ cái data mà chúng ta chưa có train nhiều hơn

./data/54ee0656-70a7-4396-94a3-095aea5ac02c.wav

không tăng số lượng dữ liệu lên thì nó lại theo kiểu là tăng cường data

./data/20c54420-fedc-4ed4-8c22-dd9840563324.wav

đúng không đây các bạn thấy này ngay cả cái mô hình à small

./data/9117cd4b-d678-44b5-93d6-4a3bcfbe4802.wav

tại sao mình không thể tự code ra cái này nhỉ kiểu như vậy dùng cái chấm của họ ok có vẻ tiện đấy

./data/78ca25ff-30ce-4356-afa7-a54a9f5ce70a.wav

đây các bạn a trong một cái khoảng số lượng epoch nhất định ví dụ mà năm epoch

./data/cac5f942-5e15-4ac8-a183-35ae069a422c.wav

nói chung là bla bla rất nhiều thứ nhưng mà vẫn phải có những cái gì ví dụ đây là chúng ta sẽ warm up learning rate này

./data/7292a2c2-b6c6-4c32-b7b9-b28116b300f2.wav

mọi người đã sẵn sàng chưa

./data/780df7bb-76bf-40c3-9ec1-1b8825edaeb6.wav

ấy ví dụ là mình counting mười lần không tốt thì mình break cái vòng for ra kiểu như vậy

./data/2be7c312-89b0-40b8-896c-1ce4ce258da3.wav

và sau khi mà có cái những cái yếu tố đấy cái spectrum gram đấy các bạn có thể sử dụng những cái mô hình của ảnh

./data/a39a6a05-776e-4b53-a685-0bdd43cb68a1.wav

xong last model thì đây các bạn thấy này một hai ba bốn và tăng cái số nốt luôn ở đây là mười hai

./data/dc0f0b2f-6f72-4831-8fe1-aac8b84dcfad.wav

nên thường ấy mình chỉ lựa chọn train từ một đến hai epoch thôi đấy sau đó mình sẽ đi fine tool ngay

./data/0c85b7ae-49e3-4efa-9458-33e3deb21cdf.wav

ấy thì nó sẽ giúp cái độ chính xác sẽ cao hơn nhiều

./data/414c3b31-c31a-4e2e-8afa-b8745bc2c21f.wav

đúng không ạ các bạn thấy này ví dụ một cái mô hình nhỏ như này thôi ý mà các bạn tắt random đi ý

./data/b7785b92-6210-4447-b6a6-af373bfc6cae.wav

rồi bây giờ mình có thể là xem bây giờ mình ngồi mình phân tích này

./data/cef9f10f-20a8-4268-b722-26768e61674b.wav

ấy chúng ta đã phân nhóm rồi tuy nhiên là bọn mình vẫn sẽ theo dõi nha mọi người nếu mà ai mà không làm đủ bài tập thì chúng ta vẫn sẽ không đủ điều kiện để làm project đâu

./data/831fd920-11a2-4e34-ac61-3d5169ef36d6.wav

đấy và để cái nhãn chính là cái từ bị thiếu

./data/ea09f9d3-3471-4b50-a3cc-8839deb4195a.wav

đấy ví dụ bây giờ mình định nghĩa x bằng ba ở trong cái thân hàm bất kì nào đấy đây này

./data/77b23d2c-fa9b-4459-9165-eec829e7601a.wav

thông báo thứ hai rồi hôm nay thì à trở lại nội dung chính của ngày hôm nay

./data/ceb73aba-1cde-44c1-a194-db8fec33125a.wav

mỗi bộ dữ liệu mình có nên cần tính lại min và độ lệch chuẩn lại không

./data/5919ad0c-0536-4901-9792-347b1b054b7f.wav

đây mọi người chạy cái a notebook này nha

./data/0ca97cfe-7a8d-4e02-b27c-2bdc0fb7944a.wav

phát hiện những cái viền đúng không xong rồi phát task phân loại xem người này là con gái hay con trai

./data/475e1b0d-db0f-468e-a2c8-23d4b082fb33.wav

ấy không chấm hai tức là các bạn sẽ tắt đi hai mươi phần trăm

./data/175ad2f6-ad7a-41ae-a508-bc0472c9a14e.wav

nếu mà cái model chúng ta nhớ quá nhiều ở một cái bộ dữ liệu ấy thì nó sẽ sai lệch ở trên những bộ khác

./data/e0215435-73b2-43b9-9a63-f81c8b58b8fd.wav

mà các bạn làm sao các bạn phải có rất nhiều kĩ năng lập trình này kĩ năng thiết kế đấy

./data/48fd9961-a20a-452e-8009-c84e7a992200.wav

ok

./data/64f876ee-f182-4120-839e-2f58c857dcb9.wav

ấy nhưng mà mình đầu tiên này train một epoch xong mình dừng lại

./data/06039bb1-10b2-4925-84bc-c8c3822baae7.wav

à mà một cái nữa mình muốn a chia sẻ là thường ấy mình à khi mình dùng pretrain này mình thường build rất ít epoch

./data/495cbd2b-1f79-4db5-8cb6-96fcae7c51b9.wav

đấy có nghĩa các bạn muốn là custom cái learning rate của mình theo cái kiểu warm up như thế này

./data/09437925-2c76-4a88-882d-810bd4a230ad.wav

có một cái câu mà mình rất là thích là gì bạn không thể hiểu một thứ khi mà bạn chưa thể xây dựng được nó

./data/e97295ad-3037-4113-bbaa-c01646d7cd45.wav

trên cái a accuracy lên tận một luôn

./data/9d84aece-3d22-49a6-bccb-b217f802367e.wav

không phải đơn giản đâu ấy cho nên là để mà train được cái mô hình này rất khó

./data/1a77551a-9f2b-4f7d-9e7d-ca78a1a71d2f.wav

sẽ được dùng lại trong cái bài toán của mình mình gọi là fine tool trên cái bài toán của mình

./data/8a7de4ee-7c7c-48d9-a429-a6bcea3e7ed9.wav

đầu tiên là một cái tiny mô hình mô hình nho nhỏ

./data/b62e6ff2-cc04-499b-9fe2-716251b21a87.wav

thì bây giờ chúng ta sẽ đến với thuật toán tiếp theo

./data/9dedb89e-ee1f-441e-be0f-48d5a263f7c8.wav

cosine giữa hai vector rồi phân loại quan hệ giữa hai câu kiểu như vậy

./data/f8cc494e-bae0-4f89-8e9e-0f6f1bfa2d21.wav

ấy trong một cái lần một cái epoch chẳng hạn

./data/dafa1032-916f-4aed-92e8-22e98dcb0c69.wav

ấy thì ví dụ mình làm bài tập xong ấy mình muốn học ngay xong họ mình muốn chấm điểm ngay

./data/ec522670-2a87-40e7-98fa-8c131a848691.wav

thay vì các bạn tạo ra ba mô hình thì các bạn à tạo một cái kiểu như thế này

./data/034047e8-33bb-4111-b7f0-82ef4d552ec6.wav

ấy ví dụ ngày xưa bọn mình build imagenet subnet chẳng bạn đây

./data/0064ae24-6aac-40ba-9517-360903681f76.wav

cái này dùng trong hình ảnh như thế nào dùng trong hình ảnh à

./data/b181ac6a-9607-4de1-b9c8-64d6fb92841f.wav

ấy nó bị mất một số nốt đi rồi đấy các bạn chú ý nha mỗi epoch mình sẽ random ra một cái mạng khác nhau

./data/2253fc82-3083-4a56-9124-1e1f1c8b40ce.wav

và thường cái này ấy người ta gọi là generative model

./data/aab13129-071a-4839-a58d-bf90d38e3e01.wav

thì cái số trường hợp có thể xảy ra nó rất là nhiều ấy ví dụ các bạn học counting rồi đúng không

./data/b509fa33-30c0-4d69-8847-941e1e4a362a.wav

số lượng nốt ở đây có thể là tám có thể mười sáu có thể ba hai xong nó sẽ ngồi nó chọn cho mình

./data/ec8a5f9c-af2f-4731-98b6-38920e7ca571.wav

đây ấy ví dụ các bạn thấy ở đây có câu tôi đi học

./data/7445d242-8b36-402a-8d72-abec9644736d.wav

vì thế các bạn có thể sử dụng phương pháp này được

./data/14ca0dd5-da69-4a80-98ee-60ea6a687715.wav

ấy chắc chắn là cũng có những thanh niên cũng sẽ trả lời

./data/8009bf5a-2ea3-4f9f-bc8c-edd861fb5e42.wav

đấy vì thế các bạn cần phải học rất nhiều skill và đặc biệt là cái skill quan trọng nhất chính là lập trình

./data/17a68a66-ba55-4716-b70a-4621d7b00fde.wav

ok mình sẽ train nhiều thôi cái pretrain này cũng tương đối là nâng cao trong đề thi tensorflow thì cũng không có

./data/e8ed9fd1-392b-49b0-b776-b1cb013a3f73.wav

sáu tám phần trăm gần lên được bảy mươi phần trăm rồi khá là ok

./data/f4b27e64-a50a-424d-889d-223e03e0384f.wav

tuy nhiên là các bạn nắm được cái tư tưởng đó được rồi ví dụ đây vẫn là chia batch thôi xong rồi à tráo nó lên bằng những cái hàm như kiểu shuffle này ấy

./data/0064fb2a-6ed4-4e99-b86e-400811366cb4.wav

ấy xong epoch tiếp theo thì mình lại random đi

./data/9d341f17-faaf-4837-b75c-40f1569a7dcf.wav

đi các bạn à training ở trên báo bài báo thông thường bài báo gọi là gì nhể

./data/1cc5627e-5173-4ac1-8d99-cb7590240220.wav

rồi thì đây sẽ chính là cái bài số ba trong đề thi tensorflow nha mọi người

./data/ccebce54-e17e-4c22-bd39-75929b295a3c.wav

gọi là một cái a một cái mã gì là chỗ này tôi đã không có dùng cái dữ liệu đây mà tôi

./data/bc3d5b3e-5014-4a10-a3e4-d59bd161c6a0.wav

thì đều chung weight nha mọi người người ta làm một cái việc này song song nhau đấy chứ không phải là như mình làm mà lại

./data/5a06ccfc-12dc-483c-a886-8b3f5715b6fa.wav

mà chúng ta có hai tám cái cột đúng không hai tám feature

./data/919261a6-4961-482c-abc2-048e50941b39.wav

ấy thì đây là phase hai của team ấy thì đây cũng là một cái bài toán tương đối challenge để mà làm cái bài này ấy

./data/471096a7-ccb1-42de-8dd0-4920d129271d.wav

các bạn đọc chi tiết thì nó có những khả có những cách nhìn tương đối là thú vị ấy mọi người có thể

./data/9e1b2809-1003-4ce0-aa62-aa6aaea232b3.wav

ấy nhưng mà cái thuật toán này nó sẽ bị thất bại khi mà giả sử mình tìm từ đạo hàm đi

./data/19ee2faf-7b96-4bbc-b58d-f7b744efd976.wav

cái mô hình kia thì đến epoch một trăm rồi đã một phần à một trăm phần trăm ở đây luôn rồi

./data/72fabd2d-4f64-4ad1-a8a7-cf8b1a14f613.wav

ok tiếp nào

./data/fff81f63-0705-4644-ae8b-7ab983a20761.wav

đấy relu này rồi cái này mọi người nắm được rồi này

./data/7d58e94e-4c70-4cc0-9c03-e9f484008ab9.wav

hiểu ý không có nghĩa là em tự code lại train step và đến cái chỗ đấy thì em dùng cái hàm đấy thôi hiểu ý không

./data/21a8ec9e-a888-458a-8739-fd58f5667d6c.wav

mình có một kì vọng tương đối lớn chúng ta học bài kì vọng đúng không có nghĩa là khi mà xảy ra một cái xác suất có người đi chơi thôi à

./data/df7c99f5-b910-4061-bcb1-30ad99e1dcaa.wav

ít nhất đi ra ngoài thực tế phải tầm khoảng tám mươi lăm chín mươi thậm chí phải trên chín mươi phần trăm

./data/518985ab-51ff-4377-b47d-2f5e39079bac.wav

à bọn mình đầu tư nhiều hơn là cái google classroom ấy ví dụ các bạn thấy là trong lớp của mình thì dùng classroom ấy

./data/38f1c749-2466-485a-a34a-1319a5209230.wav

sau đó các bạn mới chạy trên toàn bộ tập data đúng không ạ

./data/706122bb-df43-45cc-b3eb-ead1d90505ec.wav

và còn có những cái nữa là gì các bạn phải tự code lại cái phần validation nữa