Veröffentlicht auf
Einer der am häufigsten zitierten der Welt künstliche Intelligenz (KI) Forscher starten eine neue gemeinnützige Organisation, die sichere KI-Systeme entwerfen wird.
Yoshua Bengio, ein kanadisch-französischer KI-Wissenschaftler, der den prestigeträchtigen Alan Turing-Preis für seine Arbeit über Deep Learning gewonnen hat und als einer der „Paten“ von AI als „Patheer“ von AI bezeichnet wurde, kündigte die Einführung von Lawzero in Montreal an.
Der neue gemeinnützige Organisation stellt ein „erstklassiges“ Team von KI-Forschern zusammen, das sich der „Priorisierung der Sicherheit vor kommerziellen Imperativen“ bestrebt, eine Erklärung der gemeinnützigen Organisationen.
„Die heutigen Frontier-KI-Modelle entwickeln gefährliche Fähigkeiten und Verhaltensweisen, einschließlich Täuschung, Selbstversorgung und Zielfehlausrichtung“, sagte Bengio in der Erklärung und stellte fest, dass die Organisation dazu beitragen wird, das „immense Potenzial der KI“ und gleichzeitig diese Risiken zu verringern.
Bengio sagte, die gemeinnützige Organisation sei aus einer neuen „wissenschaftlichen Ausrichtung“ geboren, die er im Jahr 2023 einnahm, die in „Scientist AI“ gipfelte, einem neuen nicht-agentischen AI-System, das er und sein Team entwickelt, um als Leitplanke gegen „unkontrollierte“ Agenten-AI-Systeme zu fungieren.
KI, das „lernen wird, die Welt zu verstehen“
Dieses Prinzip unterscheidet sich insofern von anderen Unternehmen, als es nicht agentische AIS priorisieren möchte, was bedeutet, dass es direkte Anweisungen für jede Aufgabe benötigt, anstatt unabhängig die Antworten zu finden, wie die meisten KI-Systeme.
Die von Lawzero gebaute nicht agentische KIS wird „lernen, die Welt zu verstehen, anstatt darin zu handeln“, und wird geschult, um „wahrheitsgemäße Antworten auf Fragen basierend auf (externer) Argumentation“ zu geben.
Bengio arbeitete in einem kürzlich von der Zeit in der Zeit über die Wissenschaftler KI ausgearbeitet, wo er schrieb, dass er „wirklich beunruhigt durch das Verhalten, das ungehelte KI, bereits demonstriert, insbesondere Selbsterhaltung und Täuschung“.
„Anstatt zu versuchen, Menschen zu gefallen, könnte die Wissenschaftler -KI dazu gedacht sein, Ehrlichkeit zu priorisieren“, schrieb er.
Die Organisation hat in ihrer Inkubatorphase Spenden von anderen KI -Instituten wie dem Future of Life Institute, Jaan Tallin und der Silicon Valley Community Foundation erhalten.
Lawzero wird am Mila – Quebec AI Institute in Montreal herausarbeiten, das Bengio mit der Mitgliederung half.
