נראה שעולם המודלים הגיעה לבשלות, לא פעם יוצא לנסות כמה מודלים שונים ולהגיע לאותן מטריקות.

הטרנד של

data centric ai

שמוביל
Andrew Ng

דוגל בגישה שהפוקוס צריך לעבור לבחירה נכונה של הדאטא, ויצירה חכמה של דאטא סינטתי יותר מאשר אופטימיזציה של מודלים.

סיגל שקד תספר לנו על הגישה החדשה וההבדלי מונחים אל מול גישות קלאסיות של

resampling / augmentation

קישורים רלוונטים:

• imbalanced-learn

• TGAN
• CTGAN
• TABDDPM
• SDV

Commercial: gretel, datomize

בפרק זה אירחנו את שי פרח ממכון וייצמן, מומחה להוראת המדעים.

בעידן שלנו, ללמוד לתכנת זה כישור יסוד כמו קריאה וכתיבה בעידן המחשב.

האם הגיע המקום לחשיבה בשיטת

ai4all

על משקל תנועת ה

coding4all

הפופולארי.

דיברנו על הכשרות בתחום הבינה המלאכותית בתוכנית הלימודים.

מה ההבדל בין "מדעי המחשב הקלאסי" לבין אפיון בעיה כ"למידת מכונה" מנקודת המבט של המהנדס.

 

מייק, אורח קבוע של הפודקאסט ידבר איתנו על

Normalized Flows

מודל חדש ליצירת תמונה מטקסט, או תמונה מתמונה בדומה ל

Diffusion model, GANS and VAE

נדבר על ההבדלים בין המודלים, על היתרון ב

density estimations

ונבחן לעומק את הבניה המיוחדת של ההמרה המתמטית שמאפשרת חישוב יעיל ומדויק של ההתפלגות

בפרק זה אירחנו את ערן אילת האנומליה, לדבר על חיזוי אנומליות בתמונות..

חיזוי של חריגות הוא קריטי לתחומים רבים כמו סייבר, הונאה פיננסית ובקרה על מודלים.

בעולמות התמונה, נדבר על שלושת הסוגים של חריגות, חריגה מההתפלגות

OOD

חריגה סמנטית, אובייקט לא מוכר.

ולבסוף חריגה כזיהוי של פגם (למשל בעולם היצור)

 

נדבר איך מודלים מתחום התמונה כמו קונטרסטיב, גאנ וטרנספורמרים משמשים גם לזיהוי חריגות

קרדיט למחקר משותף: מתן טור פז

תמיר ואורי, שניהם עוסקים כיועצים בתחום למידת המכונה - ועשו הרבה טעויות שניתן ללמוד מהם כשניגשים לפרויקט חדש.

בפרק זה, נדבר על שלושה פרויקטים לדוגמא - ומה הן השאלות והסוגיות שצריך להעלות לפני שמתחילים.

נדבר על מטריקות - איך מודדים פרויקט, על אתגרים טכניים.

איך בוחנים האם הדאטא מספק, והאם הארגון בכלל בשל ל

AI

והכי חשוב - תיאום ציפיות לתוצרים של הפרויקט.

הקופיילוט של גיטהאב הכניס למודעות תחום מחקר מרתק של

Program Synthesis

העוסק ביצירה של קוד מתוך טקסט או מתוך דוגמאות הרצה.

אורי, כמשתמש נלהב של טייס המשנה יספר מהחוויות שלו על השימוש - החוזקות והחולשות של הכלי.

ונדבר על קודקס, מודל השפה ש

Open AI

אימנו על גיטהאב, וכיצד הוא עובד.

כמו כן נסקור את תחום עיבוד השפה הפורמלי (לעומת שפה טבעית) ומה ההבדלים במטריקות והאתגרים הדומים והשונים.

בפרק זה אירחנו את שקד זיכלינסקי, ראש קבוצת ההמלצות של לייטריקס.

שקד ריכז עבורנו את ששת המאמרים החשובים שכל דאטא סיינטיסט מודרני חייב להכיר.

ששת המאמרים הם:

(1) Attention Is All You Need

(2) BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

(3) A Style-Based Generator Architecture for Generative Adversarial Networks

(4) Learning Transferable Visual Models From Natural Language Supervision

(5) Mastering the Game of Go with Deep Neural Networks and Tree Search

(6) Deep Neural Networks for YouTube Recommendations

שקד גם כתב בהרחבה במדיום פה:

https://towardsdatascience.com/6-papers-every-modern-data-scientist-must-read-1d0e708becd

בפרק זה אירחנו את זיו פרוינד שהכיר לנו מונח חדש לבעיה נפוצה.

מכירים את זה שאימנתם מודל שעובד מעולה כשמסווגים 10 מחלקות, אבל פתאום כשמגיעים לשטח מגלים שיש עוד 12 מחלקות שלא חשבתם עליהם ומבלבלות את המודל ?

זיו יספר על נסיונו בסיווג סיגנלים באלביט, ויספר על גישות לפתרון הבעיה.

נשמע לכם כמו קלאסטרינג ? גם לנו - נדבר על ההבדלים ועל שימוש בשיטות כמו

Contrastive

ללמידת ייצוגים מוכוונת לבעיית הקלאסיפיקציה שתבוא בהמשך.

 

 

 

 

 

לקריאה נוספת

[1]Hassen, Mehadi and Philip K. Chan. “Learning a Neural-network-based Representation for Open Set Recognition.” ArXiv abs/1802.04365 (2020): n. pag.

 

[1]Hassen, Mehadi and Philip K. Chan. “Learning a Neural-network-based Representation for Open Set Recognition.” ArXiv abs/1802.04365 (2020): n. pag.

 

[1]Hsu, Yen-Chang, ZhaoyangLv, and Zsolt Kira. "Learning to cluster in order to transfer across domains and tasks.” ICLR 2018

 

[1]Yang, Bo, et al. "Towards k-means-friendly spaces: Simultaneous deep learning and clustering." international conference on machine learning. PMLR, 2017.

 

[1]Geng, Chuanxing, Sheng-jun Huang, and Songcan Chen. "Recent advances in open set recognition: A survey." IEEE transactions on pattern analysis and machine intelligence 43.10 (2020): 3614-3631.

 

[1]Min, Erxue, et al. "A survey of clustering with deep learning: From the perspective of network architecture." IEEE Access 6 (2018): 39501-39514.