Theory News 12/2017

December 25, 2017 in News | No comments

  1. Một số advice rất tốt khi viết paper: understand your readers and assume the worst case. Bài này chủ yếu nói về viết paper cho review, làm sao để thuyết phục được Program Committee. http://swanson.ucsd.edu/2017/11/24/the-expertise-ignorance-and-personal-failings-of-the-program-committee-and-other-readers/
    • Note liên quan rất hay của Igor Park. Theo Park, clarity phải là tiêu chuẩn trên hết của một paper.
  2. Các mô hình GAN đề xuất trước nay đều không hẳn tốt hơn mô hình gốc. Trích từ abstract "…. improvements can arise from a higher computational budget and tuning more than fundamental algorithmic changes". Một bình luận rất thú vị của Ian Goodfellow trên twitter "ML researchers, reviewers, and press coverage of ML need to get a lot more serious about statistically robustness of results and the effect of hyperparameters. This study shows that many papers over the last year or so were just observing sampling error, not true improvement". https://arxiv.org/pdf/1711.10337.pdf.
  3. 400 citations cho một bài báo không có thật ở một tạp chí không có thật. How funny! http://retractionwatch.com/2017/11/14/phantom-reference-made-article-got-almost-400-citations/.
  4. László Kozma tổng hợp một inequalities cheat sheet khá đầy đủ: http://www.lkozma.net/inequalities_cheat_sheet/ineq.pdf. Mình chưa có cơ hội sử dụng concentration bound cho bất kì research paper nào, nhưng thường xuyên sử dụng trong quá trình đọc và học, đặc biệt là khi đọc các lecture note. Theo quan sát của mình, đôi khi sử dụng các concentration bounds cho một chứng minh rất đơn giản và ngắn gọn. Nhưng tại sao concentration bounds lại ít sử dụng trong lecture note? Để hiểu và ứng dụng các concentration bounds thì cần thời gian và thường thời gian trong một hoặc hai lecture không đủ cho sinh viên hiểu kĩ càng và thấu đáo. Mình khuyến khích tất cả các bạn tìm hiểu các concentration bounds, mặc dù nó hơi mất thời gian. Thời gian đó hoàn toán xứng đáng. Concentration bounds là một cung cụ rất mạnh.
  5. Daniel Spielman giải thích về ý tưởng đằng sau Smoothed Analysis, một công cụ lý thuyết do Spielman và Shang-Hua Teng phát triển để giải thích tại sao một số giải thuật như phương pháp Simplex áp dụng cho bài toán Linear Programming lại rất nhanh trong thực tế. https://scilogs.spektrum.de/hlf/smoothed-analysis/. Link được dẫn bởi Computer Science Twitter: https://twitter.com/CompSciFact.
  6. Bài phỏng vấn Richard Karp, Turing Award Winner, người đồng phát triển thuật toán tìm kiếm xâu Karp-Rabin và thuật toán tìm cặp ghép cực đại Hopcroft-Karp. Một số vấn đề được thảo luận trong video: lịch sử của computing những năm 50-70 (theo Karp, thời kì đó, người ta nghiên cứu máy Turing vì nó là một trò chơi mà ai cũng muốn chơi chứ không phải vì tin rằng người ta có thể chế tạo đươc máy tính và các ứng dụng của nó), điều gì đáng tiếc nhất trong sự nghiệp của ông (Karp tiếc nhất là không học được nhiều lĩnh vực khác nhau của toán khi còn là nghiên cứu sinh), và một số suy nghĩ của ông về hướng dẫn sinh viên, hiểm họa tiềm tàng của AI cũng như industrial research. Link: https://simons.berkeley.edu/events/fireside-chat-simons-institute-director-dick-karp
  7. Daniel Lemire: đừng làm cho một chương trình trở nên phức tạp trong khi nó có thể được thực hiện một cách đơn giản. https://lemire.me/blog/2017/12/06/simplistic-programming-is-underrated/.
  8. Hai cách suy ghĩ về generalization trong training các deep nets. Ngay khi paper của Zhang et al. (https://arxiv.org/abs/1611.03530) được Best Paper Award ở ICRL 17, có rất nhiều tranh cãi xung quanh paper này. Phần lớn đều cho rằng các hiện tượng mô tả trong paper không có gì mới, cái mới có khi chỉ là họ thử nghiệm trên deep nets mà thôi. Bài viết của Sanjeev Arora thảo luận sâu hơn về những vấn đề xung quanh cái gọi là Generalization. Link: http://www.offconvex.org/2017/12/08/generalization1/
  9. Ferenc Huszár có bài viết hay về tranh cãi gần đây giữa Ali Rahimi và Yann Lecun. http://www.inference.vc/my-thoughts-on-alchemy/.
  10. PhD có phải dành cho bạn? Đây là một chủ đề muôn thuở mà search Google chắc có lẽ ra rất nhiều bàn luận. Nhưng mình thấy bài này viết ngắn gọn, súc tích, dễ đọc và đúng trọng tâm. https://www.the-research-hub.org/what-a-phd-is-and-what-it-is-not/
  11. Làm thế nào để có thể suy nghĩ như theorists? Câu hỏi này đang nhận được nhiều quan tâm trên Cstheory. Câu trả lời có thế hữu dụng cho các bạn đang bắt đầu làm theory. https://cstheory.stackexchange.com/questions/39774/how-to-be-more-theory-minded?atw=1
  12. Đổi tiền. https://11011110.github.io/blog/2017/12/23/factorial-change-making.html
Facebook Comments

Tags: , , , , , ,

Reply

Your email address will not be published. Required fields are marked *