בטיחות Physical AI
ניתוח שבועי עצמאי מאת מתי מלכיאור.
בטיחות Physical AI היא הדיסציפלינה של תכנון והבטחת הבטיחות של מערכות Physical AI — רובוטים, כלי רכב אוטונומיים ומכונות אחרות מונחות למידת-מכונה הפועלות בעולם הפיזי — ברמות ודאות הדומות לבטיחות פונקציונלית מבוססת. היא מגשרת בין שלוש מסורות — בטיחות AI, בטיחות פונקציונלית ובטיחות רובוטים — שאף אחת מהן, לבדה, אינה מטפלת בכשלים הנוצרים כאשר רכיבי למידת-מכונה מפעילים מנגנונים פיזיים.
הפער ניתן למדידה בנתונים ציבוריים. לכל נתון להלן יש מקור.
| נתון | מה זה מודד | מקור |
|---|---|---|
| 4M+ | industrial robots in operation worldwide | International Federation of Robotics (2024) |
| 123 | Israeli Physical AI companies identified in the national AI strategy report | Israel Innovation Authority, via Physical AI Safety analysis (2026) |
| <25% | of those companies show any visible functional-safety certification effort | Physical AI Safety analysis of Israel Innovation Authority data (2026) |
| 77 | robot-related accidents in US OSHA Severe Injury Reports (2015–2022) | Sanders, Şener & Chen, Applied Ergonomics (2024) |
| 93 | injuries recorded across those 77 incidents | Sanders, Şener & Chen, Applied Ergonomics (2024) |
| >60% | of robot incidents trace to unexpected activation — the robot moved when the worker believed it was stopped | Guo et al., Safety Science (2025) |
| 20 Jan 2027 | EU Machinery Regulation 2023/1230 applies in full — no transition period | EUR-Lex, Regulation (EU) 2023/1230 (2027) |
רגולציה
Part 9 of 12. After an attack, the robot gets patched, and sometimes its model gets retrained. Under EU machinery law, a modification 'by physical or digital means' that wasn't foreseen, raises a risk and needs new protective measures can turn whoever made it into the manufacturer. The Cyber Resilience Act wants security fixes shipped apart from new features where feasible.
רגולציה
Part 8 of 12. Since 11 September 2026, the Cyber Resilience Act gives makers of most connected products, robots included, 24 hours to warn about an actively exploited vulnerability. In the US, vehicle makers report safety defects within 5 working days, and the federal critical-infrastructure reporting rule still isn't in force.
הנדסה
Part 7 of 12. EU machinery law says the stop must beat the start, and the emergency stop must work 'at all times, regardless of the operating mode'. It doesn't say where the stop must run. When an attacker holds the AI's computer, that question decides whether the robot stops.
דוח בן 60 עמודים על למה אינטליגנציה רובוטית עקפה את תשתית הבטיחות.
ניתוח חודשי. בלי ספאם. תובנה בלעדית אחת בכל גיליון.
גיליון אחד בחודש. ביטול מנוי בלחיצה אחת מכל אימייל. מדיניות פרטיות.
השימוש שלנו בעוגיות
האתר משתמש בעוגיות הכרחיות לתפעולו, ובהסכמתכם גם בעוגיות אנליטיקה (Google Analytics) להבנת אופן השימוש באתר. מידע נוסף.