אלגוריתם BERT — כיצד גוגל מבין שפה אנושית

עד 2019 גוגל קרא משפטים כמו ילד שלומד לקרוא: מילה אחרי מילה, בלי הבנת הקשר. בשאילתה כמו מה לאכול לפני ריצה בלי להרגיש כבד — הוא ניסה להתאים כל מילה בנפרד. BERT הוא כשהילד הפך לאדם שמבין את המשפט כמכלול.

BERT = **Bidirectional Encoder Representations from Transformers**. פורסם על ידי Google Research ב-2019 ומוטמע ב-**10% מכלל השאילתות** בפריסה הראשונית — עם דגש על שאילתות ארוכות, natural language ו-conversational.

מודלים ישנים קראו משפטים בכיוון אחד — שמאל לימין. BERT קורא את המשפט בשני כיוונים בו-זמנית, ולכן מבין שהמילה bank במשפט I sat by the river bank שונה מ-bank ב-I went to the bank. ההקשר של המילים לפני ואחרי — קובע את המשמעות.

עבור עברית — שפה עם מבנה מורפולוגי עשיר ומילים עם משמעויות מרובות — **BERT שיפר משמעותית** את הדיוק בהבנת שאילתות.

שניהם מודלים של Google, שניהם AI — אבל תפקידים שונים:

**RankBrain**: מתמודד עם שאילתות חדשות ולא מוכרות — מנחש את הכוונה מהקשר. **BERT**: מבין את המבנה הלשוני המלא של כל שאילתה — כולל שאילתות מוכרות.

בפועל: RankBrain שואל מה הכוונה הכללית, ו-BERT שואל מה המשמעות המדויקת של כל מילה בהקשרה. השניים עובדים במקביל.

BERT לא נכנע לתיקסטינג עם מילות מפתח. הוא מבין **כוונת המשתמש ברמה עמוקה**. המשמעות המעשית:

תוכן שעונה באמת על השאלה > תוכן שמכיל את מילת המפתח פעמים רבות. שאילתות ארוכות וconversational הפכו ניתנות לאינדוקס איכותי.

**הכלל שיוצא מ-BERT:** כתוב כמו שאנשים מדברים — לא כמו שחשבת שגוגל מקשיב. זה לא עצה — זה איך המנוע עובד מ-2019.