Datasets:

mp1704

/

w2v2_0

like 0

./data/09b63fed-4190-4fce-976b-fb86923df31f.wav

cái này cũng khá là thú vị mọi người có thể trao đổi thêm về cái phần này

./data/fc1cae05-726f-4a70-aa19-57541d83fe6e.wav

đấy ví dụ bây mình research những cái mô hình đang rất là nổi tiếng trong cái ngành này ví dụ mình đang làm về segmentation chẳng hạn

./data/8e47d4a9-304a-40c0-9a70-17128e9357e6.wav

ấy ví dụ các bạn thấy cái đầu vào này chia thành ba task khác nhau ấy ví dụ cái task này phân loại đi

./data/1fec73b2-ea79-4fdf-bea8-7176af42af49.wav

đấy nhưng mà khi mà mình à đưa ra một cái chiến lược chẳng hạn thì đây cũng là một cách được lựa chọn

./data/f48f2078-4f07-42a2-86be-9fa40831d557.wav

word2vec thì nó dùng transformer và masking

./data/09416d7d-6f32-4a6f-9601-3c7d0448545c.wav

đúng không ạ

./data/c34d55d5-71c1-48bb-900e-ee3986634bab.wav

đây ví dụ cái param của chúng ta đã học được những cái câu này rồi chỉ là nó học theo cái kiểu là

./data/ae3cc578-9772-493c-887a-cb00d1f6217d.wav

các bạn sử dụng early stopping để xác định số lượng bước cần train ấy có nghĩa các bạn train a

./data/c648a6f0-fe01-4e64-8bd1-fe883daa1a1a.wav

nhưng mà model của các bạn nặng tầm khoảng mười gi chẳng hạn ví dụ thế thì bọn mình không thể đưa được lên trên mạng đấy

./data/24326f28-5e04-476e-94d7-1d46b22ec174.wav

nhưng mà tất nhiên thì cái ý tưởng nó sẽ là chung thôi

./data/5ca52dc8-2268-4b76-8e0c-578f339e87a5.wav

đấy thì người ta tạo ra một cái bộ dữ liệu để pretrain như thế này

./data/f31ed045-8c9b-442b-a3fe-88f4fa578aa2.wav

à build một cái search engine đấy và bọn mình gọi là supersonic search engine

./data/c51a5ca6-ad25-43c3-879c-dab171347ee5.wav

được không ạ sau đó tôi sẽ sử dụng một cái pretrain trước

./data/0a033103-d76b-4f14-a165-cd7430740516.wav

có nghĩa là cái giá trị sai lệch ấy nó đã được chuẩn hoá theo số lượng điểm dữ liệu rồi

./data/fa571e69-69a3-429c-b1e4-7e0421ca3ed5.wav

sao cái máy tính của mình nó báo mình bị mất mạng nhở

./data/1c19a84e-2084-401d-b950-bc3e91dbbcb1.wav

ấy thì khi nó load lên nó sẽ rất là nhanh đấy những cái dạng như thế này

./data/c778bfc0-98a3-44b7-9f46-c5810c7c2efd.wav

ấy ví dụ mình hay dùng tên kiểu như thế này

./data/d5f98a8a-e8b2-4d0e-b347-17c6b7282751.wav

nếu mà như thế này thì bắt đầu em sẽ hình thành lên rất nhiều những cái cách khác nhau ấy

./data/00d4524d-7eef-47d0-94a1-14368dc492e9.wav

cái last trên cái medium overfit lớn cho nên là nó cả hai cùng nhảy lên như thế này

./data/5ec11eff-013e-43ca-821d-d6a725f01057.wav

đây các bạn thấy không trong cái hàm fit của mình ấy ở đây chúng ta fit a cái model đây này

./data/3c8bb565-e5fe-4925-b6c4-5f649e893aeb.wav

ý anh là tìm kiếm bằng ngôn ngữ đúng không anh

./data/6956f4e9-5b28-4658-80a0-7f0725d64af5.wav

ấy thì mọi người có thể dùng thử đi đang tập nói chuyện sau này còn đi nói chuyện với a các nhà đầu tư để xem ở đây có anh nào nhà nào đầu tư cho mình không

./data/63c80ab3-43cb-4de7-9209-83bb7b2d6362.wav

đấy ví dụ làm một cái mô hình gì đấy mà mình thấy là à mình muốn gọi là tự lập trình cơ

./data/0c47cb64-33e4-49e5-ab16-4bfd1f4957b6.wav

để a mọi người có thể là

./data/d1591237-bb0f-4911-8798-94f07d9bbba4.wav

custom training mà không cần phải a combine nha em

./data/4b2f6cc9-6617-49d9-bbe1-79917f25a1a1.wav

đúng không weight decay có nghĩa là nó sẽ thêm một cái tham số vào trong việc tối ưu hoá hàm loss

./data/67bd7a6d-fe04-476a-b48b-c51d6c4c82fd.wav

cột x của chúng ta chỉ có hai cái dữ liệu thôi

./data/2ea216d6-5f06-4093-aa80-e6731c401a07.wav

đúng không tái tạo lại được những cái ảnh đó hiểu được cái ảnh đó hơn

./data/a4de49cb-d39f-4d1d-87ba-a9153549aa66.wav

đây mình sẽ show cái elu ra mình cũng không nhớ lắm cái hàm này đâu

./data/d7a9fc64-31f5-46a6-86e9-9f956a0f98d4.wav

nghe chủ đề có vẻ hơi trìu tượng nhể còn ai có câu hỏi gì nữa không

./data/177a8486-963e-436c-8c0b-7e0ca9b83a5f.wav

ý em là em đang nói âm thanh hay sao

./data/9374470c-7a4a-4ca4-bf83-95cb7942f4b4.wav

cái loss function nó sẽ được chuẩn hoá ấy

./data/6a9f5bd8-925d-4383-8606-aa04b20c925e.wav

ấy chứ không phải là cái điểm này điểm này là bị sai rồi cần những là cái điểm à tốt nhất ở đây

./data/7a4c34d5-c159-45f7-951e-0ac74dcfc1e3.wav

cũng được đấy đúng không toàn thấy a trai xinh gái đẹp thôi

./data/5dfc007e-0be1-4efc-8495-4728925fc19d.wav

thì đây là thông báo đầu tiên thông báo thứ hai ấy thì à

./data/d4c19646-f005-4ba7-96f0-e75fda62c794.wav

không biết nam có ok không

./data/a998f761-32b6-426b-b9ba-077a477198d2.wav

ấy chúng ta sẽ có hai mươi tám cái nốt ở đây n bằng hai mươi tám và chúng ta có một cái lớp ẩn

./data/80ea7330-fef9-454b-bf20-612f39e8bb04.wav

một cái model của mình ý nó sẽ có vô vàn những cái lớp các bạn thấy không

./data/fc3b8ad7-bebc-4a7c-97bc-3e457423a8b3.wav

trong cái câu này nó bị thiếu mất cái từ gì thì rõ ràng cái câu tôi không thích quán này thì mình đã có rồi

./data/5fb41898-e389-42f5-a028-004aeb7d0ceb.wav

ấy thì với một cái a mô hình softmax thông thường như thế này thì người ta đưa thêm những cái lớp vào giữa để

./data/0e31637a-a57b-42c3-a234-8948ca458051.wav

đấy thì các bạn đã biết là cái mạng nơ ron thì nó cũng không có khác gì cái softmax regression cả

./data/37faf4cd-524b-415c-8ced-aa831fa91f4b.wav

đấy ví dụ các bạn thấy cái hàm fit bình thường thì nó có thời gian bao nhiêu đúng không nhưng mà các bạn tự làm đâu có thời gian đâu

./data/9a65113f-2f16-4214-84e3-f9a260b5540b.wav

còn đâu nếu không thì các bạn cứ phải đi tiếp để tìm

./data/1fc33da7-6a90-46a6-af10-76872ea59ad0.wav

được không ạ để dự đoán ra tôi đi học đúng không ạ

./data/e204c01c-74b6-4562-871a-ad9a2a24a110.wav

gọi là những cái điểm mà local ấy optimal ấy đúng không ấy

./data/668a9fcf-63f7-4cc0-995e-51e1bf95f0aa.wav

mình sẽ thay con số đấy

./data/521a0198-23c7-44c1-ab95-be19393e3ff6.wav

thêm nhiều thông tin hơn

./data/01de2492-190b-43c5-9458-1a25ae4ace37.wav

với những cái hệ thống nặng như kiểu là tự chấm bài tự động như thế này thì làm sao mà handle được

./data/f06d488d-8133-4daf-ac59-4ef14e1e5b92.wav

chạy chậm lại để nó tìm ra và dừng lại ở điểm cực trị ấy thì cái kĩ thuật này sẽ xuất hiện trong hầu hết những cái bài báo mới gần đây

./data/f7577aa9-1059-44af-9a06-8b3f17f7c873.wav

đấy ví dụ là mình làm về summary có nghĩa là mình à cho một cái đoạn văn ví dụ như trên báo này chẳng hạn

./data/60c882cc-2a41-4ea1-a388-5238222f7463.wav

nhưng ở đây các bạn chỉ cần à tưởng tượng một chút là như vậy nó sẽ giảm dần cái learning rate đi ở đây người ta nói này

./data/31a02b03-c613-47ae-a8ce-6224b406060e.wav

ấy tại vì nếu mà các bạn dùng cả bộ data thì tương đối là mất thời gian

./data/65eadc9e-5d8f-433c-820f-49c863c944b8.wav

ấy thì người ta cũng nói ở đây là gì cái cách đơn giản nhất để tránh overfit là các bạn sẽ làm cho model nhỏ đi

./data/074ad13e-9d37-4a3d-a9bc-43c1fb032a67.wav

ok không ạ thì bây giờ các bạn hãy tưởng tượng chúng ta có một cái

./data/29d90f71-ced0-41a3-839f-b02ac85ab625.wav

bộ dữ liệu tiếp theo cũng sẽ ổn bộ dữ liệu khác nữa vẫn sẽ ổn chứ không thể học thuộc lòng một cái bộ dữ liệu từ đó sai những cái bộ dữ liệu khác được

./data/115059da-a80a-4d76-a1ac-3d259c3de7fd.wav

ừ

./data/a1b3b9c7-80ed-43f4-ba66-311a171c54f0.wav

được không ạ ấy thì khi mà các bạn code như này các bạn sẽ hiểu là

./data/99f5b022-239a-4aec-b4e7-d9a229785c89.wav

word2vec bây giờ ra word2vec hai chấm không rồi

./data/c8ef6e2a-8e01-422f-b98d-25cfbfd948bb.wav

cái nào mà dương thì giữ nguyên ấy thì cái đạo hàm của cái này ấy nó sẽ bằng một khi mà nó là dương

./data/d93814f6-3ff0-4eb9-9c09-db5b87de1c50.wav

thì bản thất bản chất là cái âm thanh dữ liệu ở trong deep learning nó cũng sẽ giống một cái ảnh

./data/e6e211fd-817f-486e-a68e-70e236286917.wav

với cái weight nó được cập nhật cả ba cái việc đấy lại với nhau

./data/4e872fe2-2fdd-446d-9013-9d9229f40311.wav

ấy thì người ta cũng nói là gì một cái model tốt không phải là một cái model fitting tốt mà là cái tính tổng quát của nó tốt

./data/bd30e8a5-5c40-4c51-ab97-6fa325a21d8c.wav

không biết khang ok không em

./data/779d159f-f878-48ce-beaf-f69f7ebb4a5b.wav

các bạn ok không có ai hỏi phần này không

./data/3069090a-66e6-4c8a-9a7d-0bdaa0eda005.wav

đúng rồi

./data/73572ada-b154-4833-a093-3e22174d45c4.wav

thì à hiện tại bọn mình đang để hai cái a gọi là hai phase có nghĩa là

./data/30c93a21-2820-450f-8296-6a9b776e4240.wav

ấy thì với cái mô hình này thì chúng ta thấy là độ chính xác thì cũng a tương đối là thấp

./data/04067fe8-c64c-49df-bbb8-b3485a15617f.wav

ấy trong có cả phân loại câu này xong so sánh độ tương đồng giữa hai câu này

./data/9d8b5e5d-5d18-4a83-bd70-4755dc9fa4b2.wav

ấy thì trong những cái lần như thế các bạn bắt đầu nhìn ra cái cách làm nó tốt hơn

./data/ec9f171b-8fc3-476f-8fe2-2a3ad985675b.wav

đây trong thực tế các bạn cần biết những cái tool để các bạn có thể build được những cái dataset

./data/c59cdf6a-ad2f-4f50-b4f5-9b3934fc42f4.wav

ấy ok không mọi người

./data/5b4bd250-ce1b-457f-9fa1-458766ac22d0.wav

thì cái callback nó gọi là gì callback nó là một cái hiện tượng sẽ xảy ra khi mà một cái hiện tượng khác xảy ra xong

./data/d7eb730a-b236-471a-8fda-1ebd396566d3.wav

từ đó mình hướng về những cái model tương ứng nhưng mà có cái xu hướng bây giờ người ta đang đi theo multilingual

./data/5348b538-3b20-449d-b194-141cdc1d56d0.wav

đấy thì logistic là sau khi các bạn nhân a một cách a tuyến tính rồi thì các bạn đưa qua phi tuyến là đưa qua hàm sigmoid

./data/7d654cbd-8abd-4106-b3ef-4e5a02112540.wav

ở đây thì có thể đưa ra một quyết định nữa có nghĩa là giữa mười ngàn với hai mươi ngàn thì chúng ta vẫn đang ở giữa

./data/59818c10-fb12-4d65-a249-a98784f3e258.wav

ấy mình sẽ có thể mình dùng một phần thôi giống như cái bài mà transfer learning mà mình đã chia sẻ ý

./data/0fc8600f-c645-4b30-a4b4-f67d233d00a9.wav

đấy có nghĩa mình lấy một cái cụm từ ra để mình làm cái câu hỏi

./data/ed9a0a7b-d916-4b17-9270-3bdfdd9a8165.wav

mô hình của mình đấy

./data/3ab963ca-52e1-4147-b6d9-4d73f66315f7.wav

ok không mọi người

./data/65a79df3-8cad-456c-b7f3-0219f7bdfc3b.wav

trong bài trước mình đã nói đến hai cách tiếp cận cách tiếp cận đầu tiên là các bạn dùng một model lớn sau đó các bạn giảm đi

./data/c8377943-f428-468a-b4a6-97e2934ecd1c.wav

đây thì như bình thường ấy thì các bạn sẽ tiền xử lý mười ngàn câu này thành một cái vector

./data/d7e10a05-83c4-41c3-a2c0-36b8d5b2f0c2.wav

ấy học sâu mà học sâu sẽ tốt hơn

./data/2b7ffacc-ee0a-4789-b99c-33341bdf91e7.wav

đúng rồi em câu hỏi của nam này

./data/0dacf5fb-b10d-43f8-9135-12b257648cbf.wav

ấy bây giờ mình có mười ngàn câu sau đó mình phân loại xem là tiêu cực hay là tích cực

./data/a136f5aa-0324-4dc7-8e3d-1ecdece4b3ea.wav

đây các bạn phải sử dụng gradient tape nha mọi người chúng ta đã học gradient tape rồi chúng ta tạo ra một cái tape

./data/98bf4907-8e36-4154-a497-c0ad683a035b.wav

mà nhiệm vụ của chúng ta là phải giữ cho cái mô hình nó tổng quát hóa được có nghĩa với cái bộ dữ liệu này thì nó ổn

./data/ed8ee348-bb88-4919-b0e1-78e1bd5a7fbd.wav

đúng không thì nó sẽ học được là trong cái chủ đề hiện tại mà chúng ta đang nhắc tới ấy

./data/71a32fa0-ef83-43bd-a0dd-0269369370b1.wav

trong khi đó các bạn sang cái tập validation các bạn thấy này

./data/128d9ef3-4d10-458d-ae12-6038edeb4fee.wav

đúng không ấy chúng ta có mười bảy tính một cái bias nữa

./data/fa29b6d3-1aab-4c57-940b-db1979fc384c.wav

ok nay nghỉ thôi mọi người meeting thì à chắc là không có đâu em

./data/9fc0cb3f-f3a5-4369-b218-15e7e02b5fe2.wav

trong một cái epoch các bạn phải chia ra thành nhiều cái batch đúng không ấy

./data/0ebc812f-49f5-4074-a384-2f9c07ebe81d.wav

còn đâu thường mình thấy ít khi tự train lắm tự train thì à thứ nhất là

./data/8b53f252-4759-4a31-b594-74c0659acf28.wav

đúng không ạ để người ta cố gắng dự đoán ra những cái từ còn thiếu ở trong một cái câu cho trước

./data/d88004c8-556a-4f71-8c25-e4b9b66f1745.wav

không phải lúc nào cũng sẽ tốt hơn nha đây là một cái a mình à trải nghiệm

./data/7368fda0-0717-410d-bb7a-c1b5ef7a4d00.wav

đấy ví dụ các bạn làm bài tập ở trên colab đấy thì các bạn chấm bài tự động trên này

./data/02ee4ed3-4939-4dc7-969b-42c6d3208d12.wav

như ở đây thì một cái mô hình này có thể là tạo ra mười sáu cái mô hình con khác

./data/2fe52ebe-6c3b-40ad-a866-e9afea85bf61.wav

công bố solution thì à dự định là thứ tư tuần sau

./data/6bc91f59-c3e1-4afc-a68e-cc403d8df0d9.wav

đấy về sau nó còn phức tạp đến cái mức là gì cái model này các bạn không thể sử dụng sequential thông thường nữa

./data/aeb4062e-d2c1-4422-a503-574dcab4fe8d.wav

và mặc dù cái last này có một ở trên a validation tuy nhiên là so với cái tiny thì vẫn kém

./data/d4ed027a-b441-47aa-ad8c-17c8f5ddf579.wav

đấy có thể giúp được nhiều người học và tìm được những cái thông tin nhanh và hiệu quả