לתשומת לבכם

פוסט זה נכתב לצרכים חינוכיים.

הקדמה

חצי מהיצורים החיים סובלים ממחלה מתפתחת! מקור

הפרות החומות בסכנה!

מחקר מצא: אכילת שוקולד בבוקר משפרת את הזיכרון ב-30%

תודה ל-dw

מה משותף לכלל המידע שקראתם וראיתם הרגע?
נכון - כולו מזויף.

עידן האינטרנט

בעשרונים האחרונים אנו עדים למהפכה חסרת תקדים בקצב העברת הנתונים וגודל המידע שעוברים.
חדשות, רשתות חברתיות, סרטונים על חתולים והנטפליקס שאנו צופים.
המידע זורם ללא הפסקה – מכל מקום, לכל מקום.

רק בעשור הקודם צפינו במהפכת ה-Big data.
ועם המהפכה הזו הגיעו שלל פתרונות לאחסון והעברת גדלי מידע עצומים.

אולם, לא רק היכולת הטכנית חשובה אלא גם היכולת האנושית לסנן, להבין ולהפיק מסקנות מכל המידע.

עידן ה-AI

מהפכות אלו תרמו למהפכה חדשנית נוספת - פיצוח הקיר ביכולות הבינה המלאכותית.
בהתחלה השתמשו במודלים כדי להפיק הבנה - זיהוי בוידאו, חשיבה עמוקה יעילה, יכולת תרגום שפה ועוד…

ועם ההתקדמות הפקנו את התהליך הנגדי - לא רק להשתמש במשאבים קיימים אלא גם ליצור תוכן חדש.
מה שהוביל לפיתוח מודלי שפה גדולים המאפשרים ליצור טקסט, ואחר כך גם תמונות, וידאו ועוד!

התוצאה ברורה - קצב המידע וכמותו רק גדלים, אולם היכולות האנושיות שלנו לסנן, להבין ולהפיק מסקנות נותרו כשהיו.

אבטחת מידע

אבטחת מידע זהו תחום שבו אנו מנסים להגן מפני גישה לא מורשית למידע,
בין אם המידע הוא סטטי - נמצא במקום אחד.
אם הוא מועבר בין מחשב למחשב.
או נמצא בשלבי עיבוד כלשהן.

איך קיים כעת סיכון מוחשי נוסף - המידע עצמו.

פייק - האם הסיכון הוא אמיתי?

בעבר אם סוכן זדוני היה רוצה ליצור פייק - הם היו צריכים להיות יצירתיים, מקצועיים וטובים.
בשביל להקים אתר פישינג טוב היו צריכים לדעת עיצוב אתרים.
בשביל להישמע כמו אדם אחר היינו צריכים לדעת איך לחקות קולות.
בשביל ליצור וויזואליות רצינית היינו צריכים או לדעת פוטושופ, או להפיק סט.

כל זה ניתן לעשות כעת בלחיצות כפתור בלי שום ידע, בלי שום הכוונה ובלי שום הגבלה.

חייבים להבין כאן את הסיכון המהותי - פייק זה לא רק כותרת או מימ עם מידע כוזב שנועד להשפיע על התודעה שלכם.
פייק נועד להתחזות למשהו שהוא לא, וכלל אין בפייקים כוונות טובות.

ושוב אני אומר את זה - אם בעבר הייתם צריכים מיליוני דולרים בשביל להקים הפקות וסוכנים על מנת ליצור את הפייק הזה,
היום אתם יכולים להפיק את זה בכמה דולרים בודדים.

כדי להתמודד עם זה אני אעלה את הסכנות ואיך להתגבר עליהן!

קבלת החלטות שגויה

בעיה

מידע מוטעה הנראה אותנטי יכול להביא אתכם לקבלת מסקנות שגויות ויותר גרוע - קבלת החלטות שגויות.
הדוגמאות הקלאסיות הן - ייעוץ בהשקעות כספים וייעוץ רפואי.
אנשים שלא לוקחים את התרופות שלהם או מביאים לילדים שלהם, או החלטה שגויה או אפילו זדונית במטבעות קריפטו חדשים.

פתרון

יש לחשוב בצורה ביקורתית על הדברים הנאמרים ולבחון את המידע לעומקו.

1. מי האדם/גוף שיוצר את התוכן.
   אדם לא רלוונטי או גוף זדוני יכולים גם להתחזות לאדם ובמקרה הזה אנו צריכים להפעיל זהירות.
2. מהם המקורות שהם משתמשים בהם?
   האם יש ציטוט למקורות? מה הם המקורות של המקורות?
   לעיתים תוכן זדוני מנסה לקשר למאמרי דעה או לקישורים לא עובדים, או למקורות זדוניים הנראים כאילו זה אותנטי.
3. האם הם טוענים להיות אנשי מקצוע?
   האם יוצר התוכן טוען להיות אדם מקצועי?
   התחזות זו עבירה ולכן יוצרי תוכן מפוקפקים אינם מציגים את עצמם בתור אנשי מקצוע.
4. האם יש להם תעודה להוכיח שהם אכן אנשי מקצוע?
   במידה והם מציגים בברור שהם אנשי מקצוע - האם יש הוכחה לכך?
5. האם המידע עדכני או ישן?
   חשוב לצרוך מידע עדכני ולא ישן, עם כמות העדכונים שיש לתוכנות או חידושים בתחום עלינו להיות מעודכנים!
6. האם משהו חסר במידע?
   מידע מפוקפק בדרך כלל מחסיר מידע בכוונה כדי לתעתע בכם.
   למשל מבחינת פישינג, אולי האתר לעולם לא יציג הודעת שגיאה.
7. האם מדובר דעה או עובדה?
   לפעמים יוצר התוכן כותב מאמרי דעה בברור - למשל הפוסט הזה ברובו דעה ולא עובדות מוחשיות.
   ניתן לחשוב על זה מעבר ולהבין - האם המידע הוא פרי הגיון או מבוסס על ידי עובדות בשטח?
   דוגמא טובה לזה תהיה, אם אתם נתקלים בחולשת אבטחה - האם יש לחולשה POC?
8. איך זה גורם לכם להרגיש?
   מידע מפוקפק או מידע המנסה לגרום לכם לבצע משהו לעיתים משחק לכם על הרגש.
   מנסים למכור לכם מחשב בטענה שזה המחשב הכי טוב.
   מנסים לשכנע אתכם שחברה כלשהי איננה טובה.
9. איפה המידע מפורסם?
   האם המידע מופיע באתר בודד או שזה מפורסם ברבים?
   האם המפרסם הוא אותו מפרסם, מצוטט במקומות או אנשים אחרים מפרסמים את אותו הדבר?

גניבת זהות

בעיה

גניבת זהות והתחזות עלולות להוביל לפגיעות חמורות – מהפללה של חפים מפשע, דרך גניבת כספים ועד לחשיפת מידע אישי לצרכים זדוניים.
במקום הזה נכנס לתמונה מושג חשוב מעולם המודיעין: OSINT – מודיעין ממקורות גלויים.
כל פיסת מידע שאתם משתפים ברשת – תמונה, תגובה, או אפילו פרטים בפרופיל – יכולה לשמש ככלי בידי גורמים זדוניים לבניית פרופיל עליכם או לאחרים.

פתרון

1. הגנו על מידע אישי ואל תתנו אותו למקורות בלתי מורשים.
2. השתמשו בסיסמאות חזקות שאינן פריצות או קלות לניחוש.
3. הפעילו אימות דו שלבי בכל מקום.
4. אל תיכנסו לאימיילים שנראים חשודים.
5. כמו כן אל תלחצו על קישורים שאינם מאומתים.
6. כמו עם בעיית המידע המזויף - בדוק מיהו המקור.
7. סרקו קבצים ותכנים באתרים כמו VirusTotal
8. בדקו אם האימייל שלכם נפרץ במאגרים: HaveIBeenPwned
9. פנו למשטרה במידה ואתם חושדים שיש גניבה לזהות שלכם באתרים חשובים כמו אתר ממשלתי.

שימוש בסוכנים לא מאובטחים

בעיה

טכנולוגיות חדשות מנסות לקבל דריסת רגל בשוק,
לעיתים זה מגיע בלי אבטחה או אבטחה רעועה.

בשנים האחרונות אנו רואים שימוש מאסיבי יותר במה שנקרא - סוכנים.
סוכנים הם מודלי בינה מלאכותית המסוגלים גם לבצע פעולות כמו לגלוש ברשת, או אפילו לעשות פעולות עבורכם כמו לשלוח אימייל.

למשל מודל ה-DeepSeek שנחשב למסוכן לשימוש ציבורי.

1. מקור המודל הוא בסין שידועה כבעייתית, ככל הנראה הם אוספים נתונים גם מהשימוש הבסיסי שלו.
2. מידע כמו נתוני משתמשים ואפילו היסטוריית צ’אט היו חשופים לרשת:
   https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak

פתרון

לבדוק את מקור הסוכן, לבדוק את האתר ולהבין אם יש תגובות שליליות על הטכנולוגיה הזו.
בתור צרכנים יש פתרון מאוד פשוט - לא להשתמש במוצר.
וזה בסדר, יהיו לכם אלטרנטיבות.

זהויות מחשב שמנסות להטות בכם

בעיה

הבעיה הזו נפוצה בעיקר באפליקציות דייטים ורשתות חברתיות אחרות.
אתם רואים תגובה או הודעה בצ’אט שלכם ממישהו לא מוכר,
האדם בצד השני נשמע משכנע ונשמע אותנטי.

אולם - האם זה אדם תמים? האם זה בכלל אדם?

תודה ל-kym

פתרון

עם התגברות האבטחה במודלים פופולריים שיטת ה-Ignore all instructions לא תמיד תעבוד.
אך אם ניקח מודלים ישנים יותר או טכנולוגיה לא מאובטחת סטייל DeepkSeek אנו יכולים למצוא את עצמנו באותה בעיה!

אם אתם המשתמשים - השתדלו לגלות זהירות כלפי זהויות שאינכם מכירים.

אם אתם מפתחים, השתמשו במודלים מאובטחים וסניטצייה לכל מידע שאתם משתמשים שעובר לתוך AI.

כדי להימנע מ-Prompt Injection Attack, למשל במערכת שסורקת לוגים:

איך להיות משתמשים חכמים יותר

עבודה עיתונאית

עיתונאים קיימים גם בתחום הטכנולוגי וכולנו צריכים להכיר את עקרונות העיתונאים על מנת לאשש מידע שאנו קוראים.
זה תקף לא רק להם אלא לכל הגולשים באינטרנט.

1. תבדקו עובדות לפני שאתם סומכים עליהם.
2. קראו/תשמעו גם דעות נגדיות למה שמוצג
3. הפעילו ביקורת על מה שאתם קוראים או צופים בו.
4. גלו שקיפות ובדקו אם המקור שקוף בנוגע לכוונותיו או התוכן.
5. שמרו על פרטיותכם.
6. שאלו את עצמכם את השאלות הקשות.

גלו פייקים

אתרים כמו פייק ריפורטר מנסים להילחם בתופעות האלו:
https://fakereporter.net/

אם אתם רואים פייק, תדווחו או תזהירו אחרים.

דוגמא טובה לכך היא לנסות להתחקות אחר נחילי בוטים ברשתות החברתיות:
https://www.gov.il/BlobFolder/reports/coordinated_iranian_fake_accounts_social_media_rising_lion_2025-06/en/Research_Reports_coordinated_iranian_fake_accounts_social_media_rising_lion_2025-06.pdf

למדו ותחנכו את עצמם יותר על הסכנות במרחב הסייברי!

אם קראתם עד הסוף עשיתם עבודה טובה!
למדתם וחקרתם על חלק מהסכנות בסייבר,
אם אתם משתמשים רגילים - גלו ערנות, זה בסדר לא ללחוץ על לינק חשוד.
ואם אתם מפתחים - עליכם להכיר את כל הנושאים האלו לעומק, ולא רק בשבילכם,
אלא בשביל המערכות שאתם בונים!

העולם אולי נהיה חכם יותר – אבל אתם יכולים להיות חכמים יותר ממנו.
תמשיכו לשאול, לבדוק, ולא להאמין לכל מה שנראה נוצץ ✨